Брат и сестра Дарио и Даниэла Амодеи основали ИИ-стартап Anthropic в 2021 году после того, как покинули OpenAI из-за разногласий по вопросам безопасности и монетизации технологий искусственного интеллекта. Специалистов среди прочего волновало, что после первой инвестиционной сделки с Microsoft в 2019 году деятельность компании стала превращаться из научной в коммерческую.
Anthropic ставит во главу угла исследования, а своей основной целью — понять искусственный интеллект на более глубоком уровне и создавать «крупномасштабные системы ИИ, которые были бы управляемыми, интрепретируемыми и надежными». Анализ, проведенный ИИ-компанией Scale Spellbook, показал, что чат-бот от Anthropic под названием Claude уже чаще отвечает отказом на неуместные запросы, дает более длинные и естественные ответы, чем придуманный OpenAI ChatGPT.
Зборовский считает Anthropic лучшей в мире лабораторией по развитию ИИ «с точки зрения науки и ценностей». Он рекомендует пятичасовой разговор подкастера Лекса Фридмана с командой Anthropic — Дарио Амодеем, а также исследователями Амандой Аскелл и Крисом Олахом. В нем Амодей рассуждает о будущем стартапа и технологии в целом, а Аскелл рассказывает о создании стиля общения Claude, за который она отвечает. «Если бы чат-бот был человеком, каким бы он был? Это метафизические вещи про то, как сделать так, чтобы пользователь воспринимал чат-бота как живого человека, который не всегда соглашается с ним, выражает эмоции, но не перегибает палку. Аманда как раз создает характер Claude», — говорит Зборовский. Олах, в свою очередь, рассказывает о том, что происходит «внутри мозга модели: как она представляет наш мир, какие концепты знает и как пытается ими оперировать», говорит Дмитрий. По его мнению, это самое перспективное направление в сфере изучения ИИ в ближайшие 5-10 лет. «Нейросети — это большая черная коробка, и люди плохо понимают, как у сетей формируется картина мира, почему где-то они могут соврать, а где-то — нет», — поясняет он.