Фото: Джонни Гуатто/Университет Торонто

Джеффри Хинтон, один из так называемых « крестных отцов ИИ », получил Нобелевскую премию за пионерство в той самой технологии, которая, как он опасается, может привести к «концу людей». Хинтон и его коллега-исследователь ИИ Джон Дж. Хопфилд были награждены Нобелевской премией по физике во вторник за их важную раннюю работу над искусственными нейронными сетями, которые с тех пор легли в основу мощных моделей ИИ, разработанных Google, OpenAI и другими.

Работа пары, черпающая вдохновение в архитектуре человеческого мозга, проложила путь к достижениям в области машинного обучения, используемого во всем, от обнаружения мошенничества до беспилотных автомобилей. По мнению Хинтона, технология, которую он помог разработать, также может представлять серьезную угрозу безопасности человека.

Первые исследователи искусственного интеллекта черпали вдохновение в человеческом мозге

Хопфилду и Хинтону приписывают продвижение изучения нейронных сетей в 1970-х и 80-х годах, когда еще было неясно, вырастет ли эта область в того гиганта, которым она является сегодня. Хопфилд известен тем, что объединил открытия экстрасенсов, биологов и нейробиологов для создания сети — « сети Хопфилда », — способной сохранять и воссоздавать закономерности из данных. Позднее Хинтон построил на этом свою собственную сеть под названием « машина Больцмана» , которая может определять закономерности в больших массивах данных. Вместе эти достижения стали важнейшими первыми шагами к созданию машин, способных классифицировать изображения. Это, в свою очередь, будет использоваться в более современных моделях ИИ для быстрого обучения на изображениях и закономерностях, хранящихся в огромных наборах данных.

Премия еще больше подчеркивает растущие параллели и взаимосвязь между экстрасенсами и компьютерной наукой. Нейронные сети, которые черпают вдохновение из того, как человеческий мозг использует нейроны для получения новой информации, с тех пор стали базовой технологической основой для больших языковых моделей, таких как ChatGPT , а также моделей распознавания изображений, используемых во всем, от скрининга рака до распознавания лиц . Хинтон и несколько его коллег ранее получили премию Тьюринга за свою работу в области нейронных сетей.

В заявлении, описывающем свое решение, Нобелевский комитет отметил работу Хопфилда и Хинтона, которая представляет новые «способы использования компьютеров» для решения сложных общественных вопросов.

«Благодаря их работе человечество теперь имеет новый инструмент в своем арсенале, который мы можем использовать в благих целях», — написал Нобелевский комитет в X , социальной медиа-платформе, ранее называвшейся Twitter. «Машинное обучение на основе искусственных нейронных сетей в настоящее время производит революцию в науке, технике и повседневной жизни».

Хинтон, который ранее называл современные технологии искусственного интеллекта «экзистенциальной угрозой» человечеству, в интервью The Washington Post во вторник утром , по-видимому, был удивлен решением Шведской королевской академии наук .

«Я в дешевом отеле в Калифорнии, где нет хорошего интернета или телефонной связи. Я собирался сделать МРТ сегодня, но, думаю, мне придется это отменить», — сказал Хинтон . Он продолжил высказывать опасения относительно будущего развития ИИ, хотя его тон был заметно менее пессимистичен, чем некоторые из его предыдущих заявлений .

«Это будет замечательно во многих отношениях», — сказал Хинтон Post . «Это будет означать огромные улучшения в производительности. Но нам также следует беспокоиться о ряде возможных плохих последствий… Я беспокоюсь, что общим последствием этого могут стать системы, более разумные, чем мы, которые в конечном итоге возьмут под контроль».

«У нас нет опыта, каково это, когда что-то умнее нас», — добавил он.

Хинтон покинул Google, чтобы открыто рассказать о своих страхах перед ИИ

Google обратилась к Хинтону в 2012 году после того, как он и несколько его коллег достигли прорыва в программировании нейронных сетей. Хинтон присоединился к компании в качестве исследователя и вице-президента и работал над продвижением их усилий в области ИИ. Технология развивалась гораздо быстрее, чем ожидал Хинтон. В предыдущих отчетах Хинтон сказал, что, по его мнению, типы текстовых выводов, генерируемых ChatGPT и другими крупными языковыми моделями в последние годы, были бы невозможны при его жизни. Исследователь все больше чувствовал себя неуютно из-за скорости разработки ИИ, что привело к его уходу из Google в прошлом году, чтобы иметь возможность более свободно критиковать отрасль.

После ухода из Google Хинтон присоединился к хору встревоженных исследователей и технологов , которые считают, что стремительный рывок технологической индустрии к созданию более мощных моделей ИИ может иметь пагубные социальные побочные эффекты. Хотя с тех пор он смягчил свой язык в недавних заявлениях, ранее Хинтон выражал опасения, что неконтролируемая модель ИИ может каким-то образом «захватить» человечество. Эти опасения заставили исследователя, которого многие в отрасли называют «крестным отцом» ИИ, как сообщается, сожалеть о большей части работы своей жизни.

«Идея о том, что эта штука действительно может стать умнее людей, — в это верили немногие», — сказал Хинтон в интервью The New York Times в 2023 году . «Но большинство людей считали, что это очень далеко. И я считал, что это очень далеко. Я думал, что это произойдет через 30–50 лет или даже дольше. Очевидно, я больше так не думаю».

Новая Нобелевская премия Хинтона может еще больше осложнить и без того напряженные отношения исследователя со своим наследием.