Компании стартовали считать токены сотрудников для оценки затрат на ИИ

Внедряющие ИИ компании стали вводить новую метрику в виде токенов, которая отражает их расход при работе сотрудников. Некоторые из них уже отслеживают, сколько токенов тратит каждый сотрудник, чтобы ограничить неэффективное или нецелевое использование.

Система автоматизации Zapier запустила внутреннюю панель, которая отображает, как сотрудники используют ИИ и сколько токенов одновременно тратят. «У нас появилась новая материал расходов», — подтвердил директор по ИИ-трансформации компании Брэндон Саммут. По его словам, токены имееют цену, и компаниям приходится учитывать её в своих расчётах.

Важно отметить, что, хотя стоимость токенов со временем падает, использование ИИ в компаниях растёт, следовательно их расходы всё равно увеличиваются.

Теперь компании наблюдают за ситуациями, когда, к примеру, один сотрудник тратит в пять раз больше токенов, чем коллеги. Это может означать либо его неэффективность, либо очень высокую продуктивность. «Мы пытаемся понять, это ценный паттерн, который стоит масштабировать, или анти-паттерн, от которого нужно отучать», — говорит Саммут.

Выясняется, что расходы бывают неожиданно большими. В стартапе Vercel инженер запустил команду ИИ-агентов, чтобы проанализировать научную статью и создать сервис на её основе. За один день агенты написали полезный код, на который у людей ушли бы недели или месяцы, но токены обошлись приблизительно в $10 тысяч. «Это немного похоже на то, как будто вы дали людям пожарный шланг с топливом», — отметил CEO компании Гильермо Раух.

Исследователь Брайан Джабарян отмечает, что многие компании изначально считали ИИ почти бесплатным источником роста продуктивности, а теперь сталкиваются с реальностью. Если говорить о компаниях с сотнями тысяч сотрудников, то такие расходы могут быстро стать серьёзной статьёй.

В стартапе Kumo AI уже стартовали отслеживать токены по каждому инженеру. Соучредитель Хема Рагхаван говорит, что лучшие авторы используют ИИ-агентов как «армию младших помощников», а некоторые инженеры, например, уезжают кататься на лыжах на выходные, пока агенты продолжают выполнять задачи.

Эксперты ожидают, что в ближайшие годы компании начнут вводить правила использования токенов. Они смогут ограничивать применение определённых моделей для конкретных задач. Руководители же чаще будут смотреть на резкие всплески расходов. Раух отмечает, что иногда большие траты могут означать огромную пользу: потратив $10 тысяч за день, организация могла сэкономить миллионы долларов, но и риск злоупотреблений тоже есть, если работники используют токены для личных проектов или сторонних стартапов.

В этот же момент руководители крупнейших IT-компаний обсуждают, что токены могут использоваться не только как метод оплаты за использование ИИ, но и как возможный элемент зарплат и даже основа новой экономической модели.

Так, глава Nvidia Дженсен Хуанг на конференции GTC заявил, что доступ к токенам может стать частью компенсационного пакета инженеров. А глава OpenAI Сэм Альтман предположил, что в будущем токены могут стать основой новой формы базового дохода. По его словам, людям будут выделять долю вычислительных мощностей ИИ, которой можно будет пользоваться самому, продать её или передать исследователям. «Будущее может больше походить не на универсальный базовый доход, а на универсальные базовые вычисления», — отмечает Альтман.

По его мнению, в долгосрочной перспективе вычислительные мощности станут инфраструктурой вроде электричества или воды.

Тем не менее, некоторые руководители отрасли предупреждают, что ИИ должен начать приносить ощутимую пользу, иначе у индустрии не останется «социального разрешения» на производство всё новых и новых токенов. Гендиректор Microsoft Сатья Наделла отмечал, что общество могут разочаровать огромные энергозатраты на вычисления, если они не приводят к улучшению здравоохранения, образования и эффективности экономики.

Ранее сообщалось, что компании Кремниевой долины стали предлагать бонусы в виде компенсаций за доступ к ИИ-моделям своим инженерам. Некоторые кандидаты на вакансии уже начали спрашивать о том, какой бюджет на вычисления в ИИ им будет доступен, если они решат присоединиться к компании.