Технологии будущего: как криптография и искусственный интеллект изменятся за пять лет
На конференции Think-2018 компания IBM спрогнозировала, какие пять технологий изменят мир в ближайшие пять лет. В первом материале о том, какие технологии провозгласили самыми актуальными 3000 ученых, мы рассказывали о микроскопах-роботах для наблюдения за планктоном, блокчейне для борьбы с подделками, а также квантовых компьютерах, которые сделают проще многие вычисления. В этой части еще две технологии: они уже существуют, но их ждет изменение и популяризация.
Криптография на решетках
В IBM предсказывают, что киберкриминальная индустрия продолжит набирать обороты. Она обзаведется квантовыми компьютерами и станет творить невиданные по масштабам DDoS-атаки, с которыми будет крайне сложно справиться, а также взламывать приложения с помощью искусственного интеллекта. «Квантовые компьютеры с вычислительной силой в миллионы кубитов позволят быстро перебрать все возможные варианты и взломать даже самый сильный шифр из существующих» — говорится в официальных документах IBM. Что нужно делать в такой ситуации? Например, придумывать более сильный способ защиты. В IBM делают ставку на метод криптографии на решетках — lattice cryptography.
Глава этого проекта, математик Сецилия Бочини ( Cecilia Boschini), объясняет, что взлом любой криптографической защиты сводится к решению определенной математической задачи. Чем сложнее эта задача, тем дольше ее решать, и тем надежнее защита. Нынешние методы шифрования устроены так, что пришлось бы потратить десятилетия на то, чтобы взломать код. Но очень мощные вычислители в теории могли бы справиться с этой задачей гораздо быстрее. Некоторое время назад ученые изобрели новый метод криптографии — следующий шаг эволюции алгоритмов шифрования после эллиптических кривых. Это lattice-based cryptography, что переводится, как «криптография на решетках». Представьте себе воображаемую решетку, скажем, тюремную.
В точках пересечения прутьев располагаются узлы с определенными координатами. Каждый из узлов может быть соединен с любым другим с помощью вектора. Поиск длины самого короткого ненулевого вектора в такой системе представляет собой сложную математическую проблему, которая так и называется Shortest vector problem (SVP) — проблема самого короткого вектора. «Казалось бы что тут сложного, — говорит Сецилия — нужно просто посмотреть на решетку и станет ясно, какая точка ближе всего к заданному узлу. Но если таких решеток много и они распределены, скажем, по сотне измерений, то даже квантовый компьютер будет не в состоянии решить эту математическую задачу». Собственно, по этой причине данный метод считается одним из самых многообещающих способов так называемого постквантового шифрования. IBM уже начала готовиться к переходу на протоколы, использующие данную защиту. Но, возможно, преждевременно.
Иван Новиков, основатель Wallarm напоминает, что до создания квантового компьютера с миллионами кубитов еще очень далеко. IBM в прошлом году анонсировала, что работает над 50-кубитной машиной, в этом году Google похвасталась 72 кубитами. «За последние 20 лет, начиная с 1998 года, когда было объявлено о первом двухкубитовом квантовом вычислителе, количество кубит увеличилось примерно вдвое ежегодно. И все это время хакеры взламывали криптографические системы из-за ошибок в реализации даже очень стойких, можно сказать, безупречных алгоритмов. Вспомним историю 2014 года с OpenSSL уязвимостью Heartbleed, из-за которой были раскрыты данные сотен миллионов человек», — напоминает Новиков. Так что математическая теория зачастую сильно отличается от практики.
Менее предвзятый искусственный интеллект
Это может звучать странно, но здесь кроется действительно серьезная научная, социальная и технологическая проблема. Дело в том, что нейронные сети обучаются людьми с помощью наборов данных, в которые уже «зашита» предвзятость. К примеру, в наборе данных с фотографиями знаменитостей, который некоторые приложения могут использовать для обучения алгоритмов распознавания лиц, есть перекос в сторону представителей светлокожей расы. Обученная на таких данных нейронка будет хуже распознавать людей с другим цветом кожи. Не исключено, что такая предвзятость может привести к дискриминации, некорректным решениям и так далее. IBM разработала и продолжает совершенствовать методику для проверки наборов данных для выявления «предубеждений». Ученые компании уверены, что в ближайшие пять лет эта проблема исчезнет или перестанет быть существенной.
Более интересен побочный эффект этого исследования. Франческа Росси (Francesca Rossi), которая руководит данным проектом, говорит, что чем больше ученые работают над выявлением таких отклонений в наборах данных, тем больше понимают свои собственные предвзятые убеждения. Что ж, это нам уже показала нейронная сеть Microsoft, которая обучалась на сообщениях в Твиттере и подхватила от людей все возможные ментальные болезни вроде сексизма, расизма и любви к нецензурному грубому самовыражению.
Над избавлением искусственного интеллекта от субъективных предвзятых оценок работают специалисты из множества различных областей, включая людей искусства, философов, юристов. Как надеется Талия, избавленный от человеческих слабостей ИИ в будущем станет подсказывать людям, если они их проявляют. Вы готовы к такому будущему, в котором машины нас учат, как нужно жить? IBM предсказывает, что оно наступит уже через пять лет.