Один из создателей ChatGPT рассказал, почему Искусственный интеллект перестал умнеть от простого увеличения размеров, когда машины научатся думать по-человечески и зачем Суперинтеллекту нужны эмоции.

Илья Суцкевер, сооснователь OpenAI и человек, стоявший за созданием GPT, дал полуторачасовое интервью на YouTube-канале Dwarkesh Patel.

Беседа получилась настолько техничной и философской одновременно, что её уже разбирают на цитаты в ИИ-сообществе. Суцкевер, который в прошлом году покинул OpenAI после громкого конфликта с CEO Сэмом Альтманом и основал стартап Safe Superintelligence Inc. (SSI) с оценкой в 20 миллиардов долларов, объяснил, почему индустрия Искусственного интеллекта зашла в тупик и что будет дальше.

Главный тезис Суцкевера звучит так – эпоха масштабирования закончилась. С 2020 по 2025 год все ИИ-компании шли простым путём — загружали в нейросети всё больше данных и вычислительной мощности, надеясь, что количество перерастёт в качество. Получилось как с учеником, который десять тысяч часов обучался на олимпиадных задачах, блестяще сдал экзамены, но в реальной работе оказался беспомощен.

Модели отлично справляются с тестами и бенчмарками, но в действительности совершают глупейшие ошибки, которые не сделал бы даже ребёнок. Они не создают экономическую ценность на уровне человека, потому что им не хватает интуитивного понимания. И это нельзя получить, просто скормив нейросети терабайты текстов.

Суцкевер привел такой пример: подросток получает навыки вождения автомобилем за десять часов практики. Современной нейросети для этого потребуются миллионы примеров. В чём разница? У человека есть встроенная «ценностная функция» — эмоции, выработанные эволюцией за миллионы лет. Страх, радость, осторожность работают как быстрые подсказки для принятия решений, не требуя полного просчёта всех вариантов.

Люди с повреждённым эмоциональным центром мозга не могут выбрать даже пару носков — им приходится логически взвешивать все «за» и «против» для каждого тривиального решения. Сейчас ИИ работает примерно так же: у него нет внутренних эмоций-ориентиров, поэтому он вынужден «зубрить» паттерны из огромных массивов данных. Предобучение даёт объём знаний, но не глубину понимания.

Компания Суцкевера SSI, в отличие от OpenAI с её гонкой за прибылью, занимается исключительно исследованиями — никаких коммерческих продуктов, маркетинга и инфраструктуры для обслуживания пользователей. Вместе с Суцкевером ее возглавляют бывший руководітель отдела ИИ-разработок Apple Дэниел Гросс и экс-исследователь OpenAI Дэниел Леви. Их стратегия — «straight-shot», прямой выстрел к Суперинтеллекту, минуя «крысиные бега» коммерческих лабораторий, где безопасностью жертвуют ради скорости. Суцкевер критикует подход конкурентов: они зациклились на бенчмарк-тестах вместо реального воздействия на мир.

Сейчас в гонке ИИ правительства и мировые техногиганты стремятся к достижению AGI (Artificial General Intelligence, Искусственный общий интеллект). Суцкевер определяет его как систему, способную выполнять любую экономически полезную работу на уровне человека или лучше. Он считает, что такие системы появятся через 5-20 лет, причём внедрение будет постепенным и специализированным: сначала суперинтеллект-юрист, потом суперинтеллект для экономических решений, потом суперинтеллект-учитель и т.д. И критически важно, по его мнению, не прятать AGI в лабораториях, а выпускать постепенно — как в авиации, где каждый полёт улучшает безопасность через выявление сбоев, или как в Linux, который совершенствуется через использование. Суцкевер уверен: AGI должен обучаться заботиться о всей сознательной жизни, включая самого себя, потому что только такие системы тоже будут сознательными.

А ещё он допускает, что люди сами станут частью ИИ через нейроимпланты вроде Neuralink Илона Маска — и тогда наше взаимодействие перейдёт на совершенно иной уровень.

Илья Суцкевер: родился в 1984 году в Нижнем Новгороде, вырос в Израиле, затем переехал в Канаду. Учился у легендарного Джеффри Хинтона — отца глубокого машинного обучения. Создал AlexNet — нейросеть, запустившую революцию в компьютерном зрении. Работал в Google Brain, участвовал в разработке AlphaGo (программа, победившая чемпиона мира в го), затем стал сооснователем OpenAI и главным идеологом серии GPT. Покинул OpenAI в мае 2024 года после конфликта с Сэмом Альтманом по вопросам безопасности AGI.

Дваркеш Патель: журналист и ИИ-энтузиаст, входящий в топ-100 самых влиятельных людей в сфере Искусственного интеллекта по версии Time. Берёт глубокие технические интервью у лидеров отрасли — Демиса Хассабиса из DeepMind, Дарио Амодея из Anthropic, Исайи Лехтанера из Microsoft.

Читайте также:

Стартап Safe Superintelligence Ильи Суцкевера привлекает $2 млрд при оценке в $32 млрд

Бывший сотрудник OpenAI Илья Суцкевер создает новую компанию для разработки безопасного ИИ