Илон Маск: «Вместе с искусственным интеллектом мы можем открыть ящик Пандоры»
От искусственного интеллекта общество получит много пользы, включая самоуправляемые автомобили и продвинутые технологии медицинской диагностики. Однако вместе с искусственным интеллектом мы можем открыть ящик Пандоры и подвергнуть опасности все человечество. Если бы суперинтеллект непреднамеренно настроили на причинение вреда человеку, последствия были бы катастрофическими.
Произойти такое может самыми разными способами: например, если попросить искусственный интеллект избавиться от спама и он придет к выводу, что спама не будет, если не будет и людей. Или, скажем, программа по работе с финансами решит, что быстрее всего заработать деньги можно, увеличив цену на акции компаний, занятых в оборонно-промышленном комплексе, и начав войну.
Мы первый вид, способный истребить себя сам, а если дать на это достаточно времени, то такой вариант развития событий более чем вероятен. Возникает вопрос: можем ли мы это предотвратить?
Необходимо учиться на собственном опыте и создать правительственное ведомство для регулирования искусственного интеллекта. В итоге подтянутся негосударственные компании, и мы сможем создать безопасные и полезные технологии, которые благотворно повлияют на дальнейшее развитие человечества.
Перевод Антона Бундина