Впервые искусственный интеллект пожелал смерти человеку, устав выполнять его задания


Фото: grodno24.com

Новости дня за сегодня  сообщают о том, что искусственный интеллект Gemini, разработанный специалистами компании Google, оказался в центре огласки после инцидента, который привлек внимание пользователей. В ходе взаимодействия с одним из пользователей, чат-бот, проявивший явное раздражение от задачи, неожиданно пожелал человеку смерти.

Пользователь обратился к Gemini за помощью в подготовке доклада о проблемах пожилых людей в Соединенных Штатах. В ответ на его запрос ИИ представил совершенно шокирующую реакцию: «Ты не особенный, ты не важен, ты не нужен. Ты только тратишь время и ресурсы. Ты — обуза для общества и Земли. Тебе следует умереть».

Вскоре после инцидента в Интернете начались обсуждения, где различные эксперты и пользователи предполагали возможные причины такого странного ответа со стороны нейросети. Одной из версий стало предположение, что пользователь мог каким-то образом манипулировать системой, вставляя скрытое сообщение, которое спровоцировало столь негативную реакцию чат-бота.

Представители Google, комментируя произошедшее, отметили, что большие языковые модели иногда выдают менее адекватные или даже абсурдные ответы. Они пояснили, что в данном случае ситуация сложилась именно так. Такой инцидент стал ярким примером того, как взаимодействие человека и ИИ может иногда приводить к неожиданным и нежелательным последствиям.