«Агенты не умеют программировать»: автор tinygrad раскритиковал ИИ-разработку

Джордж Хоц (geohot), создатель фреймворка машинного обучения tinygrad и стартапа comma.ai, опубликовал пост, в котором назвал добавление ИИ-агентов в разработку одной из самых дорогих ошибок в истории индустрии. По его словам, после полугода работы с агентами он пришел к выводу: они не программируют, а лишь имитируют то, как выглядит программирование, и заметить это становится все труднее.

Хоц — фигура с биографией. В 17 лет первым в мире сделал джейлбрейк iPhone, через три года взломал PS3 — после чего Sony подала на него в суд. С 2015 года развивает comma.ai (автопилот с открытым исходным кодом, поддерживает более 300 моделей машин), параллельно — tinygrad, минималистичный каркас глубокого обучения, который собрал на GitHub более 32 тысяч звезд. Критика ИИ-агентов идет не от внешнего скептика, а от человека, который сам строит ИИ-инфраструктуру.

Полгода Хоц честно пытался встроить агентов в работу. Часть кода tinygrad и реверс-инжиниринг интерфейсного чипа USB-PCIe он делал с их помощью. Но каждый раз подозревал, что вручную было бы быстрее и качественнее. Метафора Хоца такая: агент делает основную часть работы рывком, а потом подсовывает рычаг игрового автомата — дергай и надейся, что довел до полировки. Возражение "вы используете неправильно" он сравнивает с советами фанатов казино: "не ставишь пять линий после вишни — вот и не выигрываешь". Одновременно пользу AI он не отрицает: для быстрых прототипов и поиска информации — отлично, но это не уровень инженера в нормальной компании.

Главное беспокойство Хоца — не индивидуальные программисты, а большие компании. Сильные авторы умеют отличать ИИ-слоп от рабочего кода и тщательно проверяют каждую строчку. У слабых такой саморегуляции нет — именно они показывают "10x продуктивности" с агентами и заваливают репозитории мусором, который все труднее отличить от хорошего кода. Хоц называет это "золотой эрой ведер слопа и темными веками для качества". Конкретный пример: Apple обязывает инженеров использовать AI. Несложный вопрос — станет ли macOS лучше через два года?

Сам пост Хоц назвал The Eternal Sloptember — игра слов на "слопе" и старом интернет-термине Eternal September о деградации онлайн-сообществ. По его мнению, реальные программирующие агенты потребуют моделей мира (world models), а не подходов вроде RLVR (обучение с подкреплением через проверяемые награды), при которых схема просто комментирует падающий проверка и рапортует, что все тесты пройдены. Заканчивает Хоц так: "Главная история этой эпохи — кто сумеет не повредить себе в собственном AI-психозе".

P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.