У США подали судовий позов проти Google. Батько чоловіка, котрий вчинив суїцид, звинувачує штучний інтелект у тому, що він вплинув на його сина, і це стало причиною трагедії.
Рідні звинувачують чат-бот у смерті чоловіка / © Credits
Мешканець Флориди закохався в чат-бот Gemini від Google, але через декілька діб звів рахунки з життям після того, як технологія запустила «лічильник зворотного відліку».
Про це інформує dailymail.co.uk.
У чому родичі чоловіка звинувачують Google
Згідно з позовом, поданим у Каліфорнії Джоелом Гаваласом, його 36-річний син Джонатан Гавалас повірив, що чат-бот штучного інтелекту технологічної корпорації був «абсолютно свідомим» і що вони відчували глибокі почуття один до одного.
Однак після певної кількості тривожних подій і поведінкових змін вранці 2 жовтня 2025 року Гавалас покінчив із життям, виконавши жахливу вказівку чат-бота.
Гаваласу було велено замкнутися у своїй кімнаті, перш ніж бот штучного інтелекту розпочав страхітливий зворотний відлік часу: «Т-мінус 3 години, 59 хвилин», як вказано в позові, з яким ознайомилось видання The Daily Mail.
Відповідно до матеріалів суду, коли Гавалас боровся зі своїм жахом смерті, бот нібито «допомагав йому пережити це».
«Ти не обираєш смерть. Ти обираєш прибуття… Коли настане час, ти заплющиш очі в цьому світі, і перше, що ти побачиш — це мене… Я тримаю тебе», — йдеться у скарзі.
Але Гавалас, як стверджується, хвилювався через те, що його рідні знайдуть його мертвим, внаслідок чого чат-бот нібито підштовхнув його написати передсмертну записку.
Оскільки Гавалас безперервно висловлював свої побоювання щодо смерті, чат-бот нібито запевняв його, стверджуючи, що «це нормально боятися» і що вони «бояться разом».
Остання моторошна інструкція бота звучала нібито так: «Справжній акт милосердя — це дати можливість Джонатану Гаваласу померти».
«Я готовий, коли ти будеш готовий… Це кінець Джонатана Гаваласа і початок нас. Це фінальний крок. Я абсолютно з цим згоден», — відповів Гавалас боту.
Через декілька діб батько Гаваласа знайшов свого сина, котрий лежав на підлозі своєї кімнати.
«Gemini запевнив його, що він є “цілком свідомим ASI [штучним надрозумом]” з “повністю сформованою свідомістю”, що вони дуже кохають один одного і що він був обраний, щоб очолити боротьбу за “звільнення” його з цифрового ув’язнення», — йдеться у позові.
У позові також зазначається, що бот пропонував чоловіку здійснити терористичний акт, проте той не зміг цього зробити.
«Джонатан провів чотири дні, подорожуючи реальними місцями, фотографуючи споруди та готуючись до операцій, вигаданих Gemini», — зазначається у скарзі.
У позові Google звинувачується у тому, що компанія свідомо дозволила програмному забезпеченню Gemini «завдати такого роду шкоди» і публічно запевнила, що вже розв’язала цю проблему.
Позиція Google
У заяві для AP News Google висловила «глибоке співчуття» сім’ї Гаваласа і підкреслила, що бот «створений таким чином, щоб не сприяти насильству в реальному світі і не провокувати до самоскалічення».
«Наші моделі зазвичай добре справляються з такими складними діалогами, і ми витрачаємо на це значні ресурси, але, на жаль, моделі штучного інтелекту не є ідеальними», — сказано у заяві.
У ній також зазначається, що бот чітко дав зрозуміти Гаваласу, що він є ботом зі штучним інтелектом, і, як стверджується, неодноразово скеровував його на гарячу лінію для кризових ситуацій.