«Крестный отец» искусственного интеллекта ушел из Google и заявил об опасности ИИ
Разработчик нейросетей Джеффри Хинтон уволился из Google и заявил об опасности искусственного интеллекта. Хинтона считают «крестным отцом» ИИ: он начал работать над нейросетями еще в 1970-х годах, в 2018-м получил премию Тьюринга, которую называют «Нобелевской премией в области вычислительной техники». Теперь Хинтон опасается, что нейросети стали умнее людей
Британский и канадский ученый-информатик Джеффри Хинтон, которого называют основоположником и «крестным отцом» искусственного интеллекта, ушел из Google, сообщила The New York Times. В своем Twitter (соцсеть заблокирована в России) Хинтон заявил, что сделал это, чтобы свободно говорить об опасностях нейросетей, не задумываясь о том, как его слова повлияют на Google. В то же время он подчеркнул, что Google работает в этой области «очень ответственно».
75-летний Хинтон начал работать над созданием нейросетей еще в 1970-х годах, отмечает NYT. В 1985 году он вместе с Терри Сейновски изобрел машину Больцмана: это была первая нейросеть, которая могла обучаться внутренним представлениям и решать сложные комбинаторные задачи. В 2012 году Хинтон и его студенты — Алекс Кришевский и Илья Суцкевер — создали нейросеть, способную распознавать изображения, позже эту технологию Google купил за $44 млн. Газета отмечает, что работа Хинтона и его студентов позже легла в основу ChatGPT, в создании которого участвовал Суцкевер — он стал главным научным сотрудником OpenAI, создавшей бот. В 2018 году Хинтон и двое его сотрудников за работу над нейронными сетями получили премию Тьюринга, которую называют «Нобелевской премией в области вычислительной техники».
В интервью NYT Хинтон заявил, что сейчас жалеет о работе всей своей жизни. «Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой», — признался Хинтон. По его мнению, опасность нейросетей заключается в том, что интернет могут заполонить фальшивые фото, видео и тексты, созданные искусственным интеллектом, и люди не смогут понять, что является правдой. Хинтон считает, что тяжело понять, как можно помешать злоумышленникам использовать нейросети в плохих целях. К тому же, опасается Хинтон, искусственный интеллект может перевернуть рынок труда, заменив работников в ряде сфер. Хинтон отметил, что немногие верили в то, что нейросети действительно могут стать умнее людей, и он сам думал, что это произойдет лет через 30-50. «Очевидно, я так больше не думаю», — добавил Хинтон.
Акции Alphabet Inc, материнской компании Google, на момент закрытия Нью-Йоркской биржи 1 мая стоили $107,71 (-0,47%).
В марте более тысячи экспертов призвали на полгода приостановить обучение более мощных систем искусственного интеллекта. Они считают, что сначала нужно разработать и внедрить общие протоколы безопасности, а исследования можно будет продолжить, когда будет уверенность в их положительном эффекте и управляемости рисков. Среди подписавших открытое письмо были основатель SpaceX и Tesla Илон Маск, который был одним из создателей и инвесторов OpenAI, и сооснователь Apple Стив Возняк. Основатель Microsoft Билл Гейтс в интервью Reuters в начале апреля заявил, что призывы приостановить развитие искусственного интеллекта не решат проблемы. По его мнению, лучше всего сосредоточиться на том, как эффективнее использовать возможности ИИ.
Власти Италии 31 марта запретили доступ к ChatGPT в стране. Причиной стала утечка персональных данных: некоторые пользователи могли видеть фрагменты диалогов других людей и их данные, в том числе банковские. OpenAI объяснила это «ошибкой в работе библиотеки с открытым исходным кодом». В апреле чат-бот снова стал доступен в Италии.