Руководители OpenAI призвали не стремиться к полной автоматизации мира с помощью ИИ

Руководство компании OpenAI полагает, что не нужно стремиться к полной автоматизации мира с помощью искусственного интеллекта. Гендиректор Сэм Альтман и главный научный сотрудник Якуб Пахоцкий заявили, что «отчётливо понимают риски», несмотря на все преимущества ИИ для продуктивности.

«Полная автоматизация абсолютно всего — это не то будущее, которого мы хотим. Это было бы пустым и опасным», — написали они.

Руководство компании подчеркнуло, что ИИ-системы должны быть безопасными и подконтрольными человеку. Они уверены, что по мере роста возможностей нейросетей человеческие роли будут становиться только важнее. Альтман и Пахоцкий уверены, что за людьми должны оставаться такие опции, как «определение направлений, поиск компромиссов, вынесение суждений, а равным образом привнесение в работу ценностей, вкуса, заботы и ответственности».

«Наша первоочередная задача — создавать ИИ на службе человечества. Это означает, что мы хотим расширить возможности людей в общем, а не допустить концентрации власти в руках нескольких компаний, правительств или отдельных лиц. Мы считаем, что более безопасное будущее — это будущее, где власть распределена широко, чтобы больше людей в мире могли участвовать в создании устойчивой экосистемы», — заключили Альтман и Пахоцкий.

Ранее в Anthropic один из сотрудников признался, что уже не успевает за процессами автоматизации и теряется, когда ИИ совершает ошибки. Сама организация официально призвала замедлить темпы разработки ИИ, чтобы «дать возможность социальным структурам и исследованиям в области безопасности успевать за технологиями».

Между тем сама OpenAI конфиденциально подала заявку на первичное публичное размещение акций (IPO). Оценка компании после раунда инвестиций составила $852 млрд.