Стремительно ворвавшийся в экономику искусственный интеллект (ИИ) обещал грандиозную революцию в продуктивности. Но реальность оказалась куда более прозаичной и полной противоречий. Пока государство спешит взять технологию под контроль, принимая первые рамочные законы, корпоративный мир уже начинает пожинать плоды поспешного доверия нейросетям. Гиганты индустрии массово возвращают уволенных специалистов, а смелые бизнес-эксперименты по передаче управления ИИ заканчиваются убытками. Главная же опасность от внедрения нейросетей связана вовсе не с рынком труда. Чем угрожает людям мир ИИ — в материале «МК».
Фото: Sylvio Dittrich/imago-images.de/Global Look Press
Нейросеть и закон
На минувшей неделе федеральный законопроект «О поддержке развития технологий искусственного интеллекта в Российской Федерации» успешно прошел второе и третье чтение в Госдуме. Это первый в нашей стране законодательный инструмент, регламентирующий сферу ИИ. После одобрения Советом Федерации и подписания президентом России его базовые нормы заработают уже в сентябре, а отдельные положения вступят в силу с 1 марта 2027 года.
Фактически государство начинает задавать правила игры для новой технологической реальности.
Ключевое нововведение — регулирование больших фундаментальных моделей (БФМ) от 1 млрд параметров. Введен риск-ориентированный подход, в котором главный приоритет — минимизация вреда и соответствие российской этике.
Для обеспечения технического суверенитета модели разделили на два класса:
• Суверенные — они создаются исключительно российскими компаниями с полным циклом воспроизводства и получают доступ к госданным.
• Национальные — могут использовать зарубежные open-source компоненты, но все данные хранятся в РФ.
Ради сохранения темпов развития рынка законодатели пошли на серьезные уступки бизнесу:
Сняли лишнюю бюрократию: отменили обязательную маркировку ИИ-контента.
Решили вопрос авторских прав: разрешили обучать суверенные и национальные модели на легально купленных или общедоступных данных. Примечательно, что эта преференция уже вызывает в профессиональной среде споры о рисках нечестной конкуренции.
Открыли границы: легализовали международное сотрудничество разработчиков и страхование ИИ-рисков.
В целом пока закон носит рамочный характер. И специалисты утверждают, что неизбежные коллизии в сфере интеллектуальной собственности и персональных данных ещё предстоит детально урегулировать подзаконными актами.
ИИ-революция привела к убыткам
А занялись отечественные депутаты законом об искусственном интеллекте очень вовремя. Пока большие надежды, возложенные на него в сфере повышения эффективности, не оправдались. Об этом, в частности, заявила глава Центробанка Эльвира Набиуллина. На пресс-конференции в июне она отметила, что пока искусственный интеллект не играет определяющую роль на рынке труда. Хотя глава регулятора считает, что влияние этого фактора будет расти.
Мировой опыт также демонстрирует некоторое разочарование в данной технологии. Иллюзия тотальной замены людей искусственным интеллектом рушится на глазах: корпоративные гиганты, еще вчера массово сокращавшие штат ради «умных» алгоритмов, теперь экстренно возвращают на работу своих сотрудников.
Как сообщалось на ресурсах американского телеканала CNBC, недавно техногигант Ford был вынужден возвратить на рабочие места 350 уволенных инженеров. Вице-президент компании Чарльз Пун признал: руководство ошибалось, считая, что ИИ способен решать любые проблемы без участия человека. Гендиректор Джим Фарли отметил, что алгоритмы сэкономили сотни миллионов долларов на гарантийных ремонтах, но лишь после того, как вернувшиеся специалисты их заново перенастроили.
Австралийский Commonwealth Bank заменил голосовыми ботами более 40 операторов, но шквал жалоб клиентов заставил банк признать ошибку и вернуть людей. В IBM корпоративный ассистент AskHR, работающий на базе решений watsons, не смог помочь в решении 6% этически сложных задач, что спровоцировало трехкратный рост найма младших специалистов в отделениях компании в США.
В итоге почти треть (32%) американских руководителей компаний, заменивших людей на искусственный интеллект, уже жалеют об этом и возвращают уволенный персонал обратно из-за низкой эффективности алгоритмов. Парадокс в том, что сам ИИ остается главным драйвером безработицы в Штатах. Только в мае алгоритмы «съели» рекордные 38,5 тыс. рабочих мест, что составило около 40% всех весенних увольнений.
Но главный удар по адептам автоматизации — экономический. Исследование Orgvue показало, что 55% руководителей считают кадровые чистки ошибкой. Скрытые расходы на вычисления, техподдержку ИИ и выходные пособия перечеркивают экономию на зарплатах. Вместо ожидаемой оптимизации компании получают убытки: на каждый сэкономленный доллар приходится 1,27 доллара новых затрат. Революция ИИ оказалась не таким уж и дешевым удовольствием.
В Европе пошли дальше простых опросов по удовлетворенности использования технологии ИИ и решились заменить уже не средний персонал, а настоящего топ-менеджера. Стартап Andon Labs провел смелый эксперимент в Стокгольме, доверив управление новой кофейней нейросети Моне на базе Google Gemini. Алгоритму выдали стартовый бюджет в $21 000 и полную свободу действий.
Поначалу ИИ блестяще справился с административной рутиной: разработал логотип и меню, прошел все бюрократические квесты с пожарной безопасностью и разрешениями на работу с едой, подключил интернет в кофейне. Затем Мона самостоятельно наняла двух бариста, ставя им задачи в мессенджере, в том числе и в нерабочее время.
Однако на этапе закупок алгоритм начал сбоить. Нейросеть заказала 6000 салфеток, 3000 перчаток, помидоры черри и бесконечное количество туалетной бумаги, но полностью забыла про хлеб, из-за чего сэндвичи пришлось экстренно убрать из меню.
Финансовый итог эксперимента оказался плачевным. За две недели кофейня заработала $5700, тогда как ИИ успел спустить $16 000 из стартового капитала. Если бы создатели не вмешались, бюджет стартапа испарился бы полностью, в очередной раз доказав, что доверять алгоритмам полный контроль над бизнесом пока слишком рискованно.
Когнитивная капитуляция
Все эти примеры показывают, что страхи о наступлении искусственного интеллекта на рынок труда пока весьма преждевременны. Однако вред людям нейросети нанести способны, причем в гораздо более опасном месте — в сфере когнитивных способностей.
Недавно психологи в США провели серию экспериментов, где исследовали готовность людей полагаться на ответы ИИ, и влияние этого на их мышление. Испытуемым дали доступ к ChatGPT, который тайно выдавал уверенные, но случайные, в том числе ошибочные ответы, которые специально «подтасовывали» экспериментаторы. Результат оказался тревожным: более половины участников безоговорочно поверили машине, отключив критическое мышление. А когда ученые искусственно создали дефицит времени, то есть испытуемых торопили с ответами, люди начали «сдаваться» на милость алгоритма еще охотнее.
Исследователи назвали это явление «когнитивной капитуляцией». Это состояние, когда человек перестает слышать собственную интуицию и слепо принимает беглые ответы языковой модели как истину. Главный риск в такой ситуации — когнитивная атрофия. Делегируя нейросети всё — от планирования путешествий до медицинских диагнозов, — люди могут потерять навык независимых рассуждений и начинают выдавать машинные ошибки за собственные решения.
Как сохранить рассудок в эпоху алгоритмов? Авторы исследования советуют брать паузы перед принятием ответов ИИ, перепроверять факты по надежным источникам и использовать нейросети исключительно для генерации идей, а не как финального оракула.
Безусловно, у человека остается свобода воли. ИИ не делает людей глупее сам по себе — равно как калькулятор не отупляет инженера. Но точно так же, как доступность калькулятора заставляет школьников забывать таблицу умножения, легкость получения готовых ответов от ИИ провоцирует интеллектуальную лень, что очень опасно.
Цена иллюзии
О влиянии искусственного интеллекта на жизнь и способности россиян и способах сохранить естественный интеллект в мире развивающихся нейросетей, «МК» рассказал председатель комиссии по безопасности финансового рынка Совета Торгово-промышленной палаты (ТПП) РФ Тимур Аитов.
