Стремительно ворвавшийся в экономику искусственный интеллект (ИИ) обещал грандиозную революцию в продуктивности. Но реальность оказалась куда более прозаичной и полной противоречий. Пока государство спешит взять технологию под контроль, принимая первые рамочные законы, корпоративный мир уже начинает пожинать плоды поспешного доверия нейросетям. Гиганты индустрии массово возвращают уволенных специалистов, а смелые бизнес-эксперименты по передаче управления ИИ заканчиваются убытками. Главная же опасность от внедрения нейросетей связана вовсе не с рынком труда. Чем угрожает людям мир ИИ — в материале «365NEWS».
Фото: Sylvio Dittrich/imago-images.de/Global Look Press
Нейросеть и закон
На минувшей неделе федеральный законопроект «О поддержке развития технологий искусственного интеллекта в Российской Федерации» успешно прошел второе и третье чтение в Госдуме. Это первый в нашей стране законодательный инструмент, регламентирующий сферу ИИ. После одобрения Советом Федерации и подписания президентом России его базовые нормы заработают уже в сентябре, а отдельные положения вступят в силу с 1 марта 2027 года.
Фактически государство начинает задавать правила игры для новой технологической реальности.
Ключевое нововведение — регулирование больших фундаментальных моделей (БФМ) от 1 млрд параметров. Введен риск-ориентированный подход, в котором главный приоритет — минимизация вреда и соответствие российской этике.
Для обеспечения технического суверенитета модели разделили на два класса:
• Суверенные — они создаются исключительно российскими компаниями с полным циклом воспроизводства и получают доступ к госданным.
• Национальные — могут использовать зарубежные open-source компоненты, но все данные хранятся в РФ.
Ради сохранения темпов развития рынка законодатели пошли на серьезные уступки бизнесу:
Сняли лишнюю бюрократию: отменили обязательную маркировку ИИ-контента.
Решили вопрос авторских прав: разрешили обучать суверенные и национальные модели на легально купленных или общедоступных данных. Примечательно, что эта преференция уже вызывает в профессиональной среде споры о рисках нечестной конкуренции.
Открыли границы: легализовали международное сотрудничество разработчиков и страхование ИИ-рисков.
В целом пока закон носит рамочный характер. И специалисты утверждают, что неизбежные коллизии в сфере интеллектуальной собственности и персональных данных ещё предстоит детально урегулировать подзаконными актами.
ИИ-революция привела к убыткам
А занялись отечественные депутаты законом об искусственном интеллекте очень вовремя. Пока большие надежды, возложенные на него в сфере повышения эффективности, не оправдались. Об этом, в частности, заявила глава Центробанка Эльвира Набиуллина. На пресс-конференции в июне она отметила, что пока искусственный интеллект не играет определяющую роль на рынке труда. Хотя глава регулятора считает, что влияние этого фактора будет расти.
Мировой опыт также демонстрирует некоторое разочарование в данной технологии. Иллюзия тотальной замены людей искусственным интеллектом рушится на глазах: корпоративные гиганты, еще вчера массово сокращавшие штат ради «умных» алгоритмов, теперь экстренно возвращают на работу своих сотрудников.
Как сообщалось на ресурсах американского телеканала CNBC, недавно техногигант Ford был вынужден возвратить на рабочие места 350 уволенных инженеров. Вице-президент компании Чарльз Пун признал: руководство ошибалось, считая, что ИИ способен решать любые проблемы без участия человека. Гендиректор Джим Фарли отметил, что алгоритмы сэкономили сотни миллионов долларов на гарантийных ремонтах, но лишь после того, как вернувшиеся специалисты их заново перенастроили.
Австралийский Commonwealth Bank заменил голосовыми ботами более 40 операторов, но шквал жалоб клиентов заставил банк признать ошибку и вернуть людей. В IBM корпоративный ассистент AskHR, работающий на базе решений watsons, не смог помочь в решении 6% этически сложных задач, что спровоцировало трехкратный рост найма младших специалистов в отделениях компании в США.
В итоге почти треть (32%) американских руководителей компаний, заменивших людей на искусственный интеллект, уже жалеют об этом и возвращают уволенный персонал обратно из-за низкой эффективности алгоритмов. Парадокс в том, что сам ИИ остается главным драйвером безработицы в Штатах. Только в мае алгоритмы «съели» рекордные 38,5 тыс. рабочих мест, что составило около 40% всех весенних увольнений.
Но главный удар по адептам автоматизации — экономический. Исследование Orgvue показало, что 55% руководителей считают кадровые чистки ошибкой. Скрытые расходы на вычисления, техподдержку ИИ и выходные пособия перечеркивают экономию на зарплатах. Вместо ожидаемой оптимизации компании получают убытки: на каждый сэкономленный доллар приходится 1,27 доллара новых затрат. Революция ИИ оказалась не таким уж и дешевым удовольствием.
В Европе пошли дальше простых опросов по удовлетворенности использования технологии ИИ и решились заменить уже не средний персонал, а настоящего топ-менеджера. Стартап Andon Labs провел смелый эксперимент в Стокгольме, доверив управление новой кофейней нейросети Моне на базе Google Gemini. Алгоритму выдали стартовый бюджет в $21 000 и полную свободу действий.
Поначалу ИИ блестяще справился с административной рутиной: разработал логотип и меню, прошел все бюрократические квесты с пожарной безопасностью и разрешениями на работу с едой, подключил интернет в кофейне. Затем Мона самостоятельно наняла двух бариста, ставя им задачи в мессенджере, в том числе и в нерабочее время.
Однако на этапе закупок алгоритм начал сбоить. Нейросеть заказала 6000 салфеток, 3000 перчаток, помидоры черри и бесконечное количество туалетной бумаги, но полностью забыла про хлеб, из-за чего сэндвичи пришлось экстренно убрать из меню.
Финансовый итог эксперимента оказался плачевным. За две недели кофейня заработала $5700, тогда как ИИ успел спустить $16 000 из стартового капитала. Если бы создатели не вмешались, бюджет стартапа испарился бы полностью, в очередной раз доказав, что доверять алгоритмам полный контроль над бизнесом пока слишком рискованно.
Когнитивная капитуляция
Все эти примеры показывают, что страхи о наступлении искусственного интеллекта на рынок труда пока весьма преждевременны. Однако вред людям нейросети нанести способны, причем в гораздо более опасном месте — в сфере когнитивных способностей.
Недавно психологи в США провели серию экспериментов, где исследовали готовность людей полагаться на ответы ИИ, и влияние этого на их мышление. Испытуемым дали доступ к ChatGPT, который тайно выдавал уверенные, но случайные, в том числе ошибочные ответы, которые специально «подтасовывали» экспериментаторы. Результат оказался тревожным: более половины участников безоговорочно поверили машине, отключив критическое мышление. А когда ученые искусственно создали дефицит времени, то есть испытуемых торопили с ответами, люди начали «сдаваться» на милость алгоритма еще охотнее.
Исследователи назвали это явление «когнитивной капитуляцией». Это состояние, когда человек перестает слышать собственную интуицию и слепо принимает беглые ответы языковой модели как истину. Главный риск в такой ситуации — когнитивная атрофия. Делегируя нейросети всё — от планирования путешествий до медицинских диагнозов, — люди могут потерять навык независимых рассуждений и начинают выдавать машинные ошибки за собственные решения.
Как сохранить рассудок в эпоху алгоритмов? Авторы исследования советуют брать паузы перед принятием ответов ИИ, перепроверять факты по надежным источникам и использовать нейросети исключительно для генерации идей, а не как финального оракула.
Безусловно, у человека остается свобода воли. ИИ не делает людей глупее сам по себе — равно как калькулятор не отупляет инженера. Но точно так же, как доступность калькулятора заставляет школьников забывать таблицу умножения, легкость получения готовых ответов от ИИ провоцирует интеллектуальную лень, что очень опасно.
Цена иллюзии
О влиянии искусственного интеллекта на жизнь и способности россиян и способах сохранить естественный интеллект в мире развивающихся нейросетей, «365NEWS» рассказал председатель комиссии по безопасности финансового рынка Совета Торгово-промышленной палаты (ТПП) РФ Тимур Аитов.
— Тема влияния искусственного интеллекта на когнитивные способности человека сегодня обсуждается на всех уровнях. В сентябре официальный представитель МИД Мария Захарова на Восточном экономическом форуме заявила о «возможной деградации когнитивного аппарата», а глава ВЦИОМ Валерий Фёдоров прямо сказал: «Мы видим, что люди стали глупеть». Вы разделяете эту тревогу?
— Более чем. Мы стоим на пороге «когнитивной катастрофы», и мало кто на это обращает внимание, потому что процесс идёт незаметно. Человеческий интеллект — понятие переоценённое. Подавляющее большинство людей им не обладает, если подходить строго. При этом мы с пеной у рта ещё и доказываем, что какой-то ИИ «не прошёл тесты на AGI» (Artificial General Intelligence — гипотетический ИИ, способный выполнять любую интеллектуальную задачу на уровне человека — «365NEWS»).
— В чём именно ИИ сегодня силён, а в чём слаб?
— По формальным логическим конструкциям, структурированию, декомпозиции сложных задач — текущие модели превосходят 99% людей. Но есть и слабые места. Например, известен случай, когда ИИ посоветовал пациенту отменить вазопрессорную поддержку после выписки из реанимации, хотя она требовалась. Модель здесь ошиблась, и именно это нас и успокаивает. Мы видим, что ИИ «тупит», и думаем: «Ну, он же глупый». А он просто устроен иначе. Это не баг, а архитектурная особенность. Мы проигрываем ему в том, в чём он силён, но успокаиваем себя тем, в чём он слаб. Но слабости эти — временные…
— В чём же в этом конкретном случае проявилась эта «архитектурная особенность» ИИ?
— Думаю, в отсутствии клинического мышления — «клинического гештальта», то есть искусственный интеллект сработал на основе поиска статистических закономерностей в тексте, а не реального понимания физиологии человека. Он мог связать слово «выписка» (которая подразумевает выздоровление) с действием «отменить лекарства», проигнорировав тот факт, что вазопрессоры технически невозможно получать вне реанимации. Скажем, в медицинских базах (в эпикризах) встречается фраза «пациент выписан после отмены вазопрессоров». Допускаю, что генеративная модель могла переставить слова местами, выдав ошибочную причинно-следственную связь: «рекомендовать отмену вазопрессоров для выписки».
— Добавлю к вашим словам, что модель ИИ еще и «галлюцинирует», то есть придумывает несуществующие факты. Как тут считать ИИ умнее человека?
— Галлюцинации решаемы, с каждым месяцем их меньше. Эти ошибки ИИ — проблемы роста, их можно исправить данными и настройкой. А вот ошибки человека не исправляются, они усугубляются. Потому что люди, увы, перестают напрягать мозг. И здесь мы подходим к самому страшному…
— К чему?
— К тому, что уже происходит с человеческим мозгом в эпоху ИИ. У активных пользователей нейросетей активность мозга заметно снижается. В науке это называют «когнитивный долг»: ты берёшь в долг у машины интеллект, но расплачиваешься способностью думать в будущем. Академик РАН Сергей Иллариошкин образно сравнил наш мозг с велосипедом: «Пока крутишь педали — работает. Стоит остановиться — начинается деградация».
В исследовании MIT Media Lab 54 участника написали эссе в трёх группах: с ChatGPT, с поисковиком и без инструментов. Более 83% использовавших ChatGPT не могли вспомнить ни одного предложения через несколько минут, а их мозговая активность упала на 55%. Искусственный интеллект украдёт вашу способность думать, а вы это даже не заметите.
— Это западные исследования. А что в России?
— Ситуация похожая. Исследование крупного отечественного экономического вуза (октябрь 2025 года, 356 преподавателей) показало: 83,1% педагогов используют генеративный ИИ, а 80,8% называют снижение когнитивных способностей ключевым риском. 42,8% ожидают сильных изменений в образовании за пять лет, 34,9% — очень сильных.
— Сможет ли образование к этим проблемам адаптироваться?
— Кое-где уже адаптируется. Финляндия ввела рекомендации: ИИ — это только для поддержки, не для замены мышления. Ученики должны уметь создавать текст без нейросети.
— Но ведь есть же и ощутимая польза ИИ — в том же образовании или в банковской сфере для борьбы с мошенничеством?
— Безусловно. В образовании — это адаптивные тренажёры. В банковском секторе ИИ выявляет аномалии в транзакциях, блокирует мошенничество. Но эти же технологии ИИ злоумышленники используют для фишинга, подбора паролей и автоматизации атак. Идёт «гонка вооружений», в которой человек оказывается пассивным наблюдателем. Важно во всем происходящем сохранять собственный интеллектуальный контроль, иначе мы выиграем в эффективности, но проиграем в способности мыслить.
Отмечу, что по данным нейрофизиологов, регулярная интеллектуальная нагрузка сохраняет ясность ума. Когда мы перестаём напрягать мозг, нейронные связи ослабевают. Мозг, тоже, как и мышца, требует нагрузки.
— Исследователи уже говорят о различных типах пользователей ИИ?
— Да. В академических работах выделяют группы:
· L1 (Пассажиры) — это зависимые от искусственного интеллекта, у них уже когнитивная атрофия. Полностью полагаются на ИИ, ничего не проверяют. Их большинство.
· L2 (Операторы) — поддерживают системы ИИ, но также уязвимы перед автоматизацией. Управляют, но слабо понимают глубинные процессы.
· L3 (Архитекторы) — элита, входящая в симбиоз с ИИ и достигающая огромной продуктивности, и такая группа есть.
Но проблема в том, что L1 — большинство, и их становится всё больше.
— Какой неутешительный вывод. Выходит, со временем мы все станем рабами ИИ?
— Нет, мы просто превратимся в его паразитов, которые не могут существовать без внешнего интеллекта, как паразит не может существовать без хозяина…
— Сегодня, когда общаешься с теми, кто активно использует искусственный интеллект, то чаще всего слышишь: «Я просто экономлю время».
— Экономия времени — это ловушка. «Экономя» пять минут на формулировке мысли, мы крадем у мозга возможность создать новую нейронную связь. Вы и не заметите, как минуты превратятся в годы атрофии. Наш мозг — единственный актив, который не продаётся и не покупается. Когда он атрофируется, вы не сможете его восстановить.
— Есть ли выход?
— Выход есть, но он требует усилий. Речь не о запрете искусственного интеллекта, а о том, чтобы использовать его как инструмент, а не заменитель мышления. Ирония здесь в том, что для осознания этого усилия тоже нужно думать. А те, кто перестал думать, никогда не поймут, что перестали. Это как с алкоголиком, считающим, что он контролирует ситуацию.
Эволюция не всегда идёт вперёд. Эволюция идёт туда, где выгоднее. Если удобнее не думать — мы перестанем думать. Вот мы боимся, что искусственный интеллект станет хозяином. А он станет инвалидной коляской, в которую мы сами себя посадили. И из которой выйти сложно — ноги-то атрофировались. И руки тоже. А мозг — в первую очередь.
— И что же делать россиянам в таком случае? Не хотелось бы совсем отказываться от технологии, которая так сильно облегчает жизнь, но и терять способность к собственному мышлению тоже не хочется.
— Во-первых, перестаньте обманывать себя. ИИ не делает вас умнее. Он делает вас эффективнее. Это разные вещи.
Во-вторых, не позволяйте ИИ думать за вас — по крайней мере, слишком часто. Используйте его как калькулятор, а не как мозг. Калькулятор не делает вас математиком, а искусственный интеллект не сделает мыслителем.
