Глава DeepMind: AGI нельзя сравнивать с обычными прорывами вроде интернета

Основатель и руководитель Google DeepMind Демис Хассабис выпустил манифест, заявив, что человечество находится у подножия «сингулярности», а до создания полноценного искусственного общего интеллекта (AGI) осталось всего некоторое количество лет. 

Одновременно Хассабис предупредил, что у людей есть лишь короткое «драгоценное окно», чтобы взять технологию под контроль, пока она не изменила саму суть человеческой цивилизации.

Он подчёркивает, что AGI нельзя сравнивать с обычными технологическими прорывами вроде интернета или мобильной связи, так как масштаб грядущих изменений будет в 10 раз мощнее промышленной революции, а произойдёт всё в 10 раз быстрее. Хассабис предупреждает, что ИИ может как подарить человечеству эру изобилия и победу над смертельными болезнями, так и стать источником беспрецедентных угроз: «AGI гораздо ближе к открытию электричества или огня. Если задуматься, мы, по существу, нашли способ заставить песок думать. Это чудо. Но то, что мы коллективно сделаем сейчас, определит, как развернётся следующий этап развития нашей цивилизации».

Глава DeepMind полагает, что индустрия ИИ оказалась в тисках коммерческой и геополитической гонки. При этом технологии развиваются быстрее, чем люди успевают осознавать их влияние. Он уверен, что по мере приближения к AGI мир неизбежно столкнется с новыми вызовами, начиная от киберугроз и заканчивая биологические и ядерные риски. Особую опасность, по мнению Хассабиса, будут представлять агентные системы, способные к постоянному самосовершенствованию.

Сам исследователь предлагает США взять на себя лидерство и создать особый надзорный орган — Комитет по стандартам передового ИИ (Standards Body), а в качестве модели использовать FINRA — американскую неправительственную организацию, которая регулирует финансовые рынки. Он полагает, что финансировать нового ИИ-регулятора должен сам технологический сектор.

Хассабис уточняет, что все авторы передовых систем должны будут за 30 дней до релиза добровольно отправлять свои модели на проверку, а эксперты будут тестировать их на склонность к обману, попытки обойти барьеры безопасности, а равным образом проверять возможности в сфере кибероружия и биотехнологий. Такие проверки должны стать обязательным условием для допуска ИИ на сегмент США. Одновременно стартапы и научные институты с более простыми моделями освободят от них.

Хассабис признаёт, что даже подход технических проблем безопасности ИИ не убережёт человечество от столкновения со сложнейшими экономическими и философскими вопросами. «Какими ценностями мы хотим руководствоваться в жизни, в чём будут заключаться наши смысл и цель, и как может измениться сама природа человека? Очевидно, что подход этих вопросов нельзя и не нужно оставлять исключительно на усмотрение технарей. Чтобы помочь определить эту новую главу, должны объединиться все слои общества», — заключает он.

В июне более 150 ведущих мировых учёных в области математики опубликовали «Лейденскую декларацию». По словам её авторов, крупные технологические компании превращают фундаментальную науку в маркетинговый средство. Учёные отмечают, что сегодня техгиганты и ИИ-лаборатории анонсируют «прорывы» через пресс-релизы и блог-посты, избегая научного рецензирования. Математики видят проблему в том, что нейросети научились генерировать весьма правдоподобные, но ошибочные доказательства, а отличить галлюцинацию от реальной теоремы становится всё сложнее.

Позднее 200 экономистов и исследователей в области ИИ, включая 16 лауреатов Нобелевской премии, подписали открытое письмо с призывом к властям как можно скорее оценить влияние искусственного интеллекта на экономику. В соответствии с заявлению авторов, в следующие десять лет влияние ИИ существенно вырастет, и это приведёт к беспрецедентной трансформации экономики, которая будет масштабнее промышленной революции, но займёт намного меньше времени. Такая быстрая трансформация несёт много рисков, в том числе сокращение рабочих мест.