В июле 2026 года группа исследователей из трёх университетов — Стэнфорда, Массачусетского технологического института и Кембриджа — опубликовала неожиданные результаты эксперимента, который ставит под вопрос саму идею «помощи» от искусственного интеллекта. Учёные предложили участникам ответить на вопросы о деталях фильмов, разделив их на две группы: одни отвечали самостоятельно, другие получали помощь от модели Step 3.5 Flash — одной из самых популярных нейросетей на тот момент. Результат шокировал: точность ответов в группе с ИИ упала с 27% до 9%, то есть в три раза. При этом уверенность в своих ответах у людей, пользовавшихся подсказками, выросла почти в два раза. Казалось бы, парадокс: чем больше мы полагаемся на машины, тем хуже становимся сами. Но в этом нет ничего удивительного, если копнуть глубже.
Почему так происходит? Исследователи обратили внимание на одну деталь: участники, не пользовавшиеся ИИ, в 44% случаев честно говорили «Я не знаю» на сложных вопросах. В группе с нейросетью это сделали только 3%. То есть, ИИ не просто даёт неверные ответы — она убеждает людей в их правильности, даже когда те понятия не имеют, о чём говорят. Это явление называется иллюзией компетентности : человек видит убедительно сформулированный ответ от машины и начинает верить, что разбирается в теме лучше, чем на самом деле. Особенно опасно это в ситуациях, где ошибка может стоить дорого — например, в медицине, юриспруденции или инженерии. Представьте, что врач ставит диагноз на основе подсказки ИИ, которая уверяет его в правильности, хотя на самом деле ошибается. Или адвокат, который строит защиту на основе неверного анализа прецедентов, предоставленного нейросетью. В таких случаях иллюзия компетентности превращается в реальную угрозу.
Но почему именно Step 3.5 Flash показала такие плохие результаты? Дело в том, что не все модели ИИ одинаковы. Некоторые нейросети, особенно те, что оптимизированы под скорость и доступность, могут давать ответы, которые выглядят правдоподобно, но на самом деле содержат грубые ошибки. Step 3.5 Flash, вероятно, была одной из таких моделей: она справлялась с тестами хуже других, но при этом её ответы были сформулированы так убедительно, что люди принимали их за чистую монету. Это ещё один тревожный сигнал: даже посредственные модели ИИ могут создавать иллюзию экспертности, если их ответы звучат убедительно. В реальном мире это означает, что компании и госучреждения, внедряющие ИИ для принятия решений, рискуют столкнуться с лавиной ошибок, которые будут выглядеть как осознанные и обоснованные.
Эксперимент с фильмами — это лишь верхушка айсберга. Исследователи подчёркивают, что эффект «ИИ-индуцированной глупости» проявляется в любой сфере, где люди начинают полагаться на нейросети как на единственный источник знаний. Например, в образовании: студенты всё чаще списывают у ИИ, не проверяя ответы, и в итоге теряют навык самостоятельного мышления. В бизнесе: менеджеры принимают решения на основе отчётов, сгенерированных нейросетями, не задумываясь о том, что в данных могут быть искажения или неточности. Даже в личной жизни: люди всё чаще обращаются к ИИ за советом по бытовым вопросам, от выбора лекарства до ремонта техники, и рискуют получить вредные рекомендации. В долгосрочной перспективе это может привести к деградации критического мышления как на индивидуальном, так и на общественном уровне. Мы рискуем вырастить поколение, которое не сможет отличить правду от вымысла, а значит, будет легче манипулировать и обманывать. Но почему это происходит именно сейчас? В последние годы ИИ стал неотъемлемой частью нашей жизни: нейросети пишут тексты, рисуют изображения, анализируют данные, а иногда даже заменяют людей в принятии решений. Однако большинство пользователей не понимают, как работают эти модели. Они видят в ИИ не инструмент, а всемогущего помощника, который никогда не ошибается. Это заблуждение подкрепляется маркетингом компаний-разработчиков, которые позиционируют свои продукты как «революционные» и «безошибочные». На самом деле, ИИ — это всего лишь сложный калькулятор, который делает то, что ему сказали, но не всегда делает это правильно. Особенно если его задача — отвечать на вопросы, где нет однозначных решений, как в случае с деталями фильмов или анализом юридических документов.
Что будет дальше? Если тенденция сохранится, мы можем столкнуться с несколькими сценариями. Первый — пассивный : люди продолжат полагаться на ИИ, ошибки будут накапливаться, но общество не сразу заметит последствия. Это приведёт к росту числа инцидентов, связанных с неверными решениями, — от медицинских ошибок до аварий на производстве. Второй сценарий — активный : правительства и регуляторы начнут вводить ограничения на использование ИИ в критически важных сферах, требуя обязательной проверки решений человеком. Например, в Евросоюзе уже обсуждаются законы, обязывающие врачей перепроверять диагнозы, поставленные ИИ. Третий сценарий — эволюционный : рынок сам выработает механизмы защиты. Появятся новые инструменты, которые будут не просто давать ответы, а объяснять, почему тот или иной вариант может быть ошибочным. Например, системы, которые показывают не только конечный ответ, но и источники данных, на основе которых он был получен, или предупреждают о возможных искажениях.
Кто выиграет, а кто проиграет в этих сценариях? В первую очередь, проиграют те, кто наивно доверяет ИИ без критического анализа. Это могут быть как обычные пользователи, так и компании, которые внедряют нейросети в свои процессы без должной экспертизы. Например, небольшая клиника, решившая использовать ИИ для диагностики, рискует получить массу жалоб от пациентов, если ошибки модели приведут к неправильному лечению. С другой стороны, выиграют те, кто подходит к использованию ИИ осознанно. Это могут быть крупные корпорации, которые инвестируют в обучение своих сотрудников работе с нейросетями, или стартапы, разрабатывающие инструменты для проверки и валидации ответов ИИ. Также в выигрыше окажутся регуляторы, которые смогут вовремя заметить угрозы и ввести необходимые ограничения. От каких условий зависит развитие каждого сценария? Во-первых, от скорости осознания проблемы . Чем раньше общество и бизнес поймут, что ИИ — это не панацея, а инструмент с ограничениями, тем меньше будет ошибок. Во-вторых, от качества образования . Если школы и университеты начнут учить студентов не только пользоваться ИИ, но и критически оценивать его ответы, это снизит риск массовой деградации навыков. В-третьих, от регуляторной среды . Если государство не вмешается, рынок может слишком поздно среагировать на угрозы. Если же регуляторы будут слишком строгими, это может затормозить инновации и развитие технологий.
Что может сделать каждый из нас уже сейчас? Во-первых, не доверять ИИ blindly . Если нейросеть даёт ответ, всегда проверяй его хотя бы поверхностно — например, поиском в интернете или консультацией с экспертом. Во-вторых, развивать критическое мышление . Это не только поможет избежать ошибок, но и сделает вас более устойчивым к манипуляциям. В-третьих, делиться своими наблюдениями . Если ты заметил, что ИИ даёт неверные ответы в какой-то сфере, расскажи об этом — это поможет другим избежать ошибок. В-четвёртых, поддерживать развитие этичных ИИ-инструментов . Те компании, которые инвестируют в прозрачность и объяснимость моделей, заслуживают доверия больше, чем те, которые обещают «всё знать и всё уметь». ИИ не враг. Это мощный инструмент, который может сделать нашу жизнь проще и эффективнее. Но как любой инструмент, он требует ответственного подхода. Если мы будем относиться к нему как к безошибочному помощнику, то рискуем потерять то, что делает нас людьми, — способность думать самостоятельно. Исследование трёх университетов — это не просто предупреждение. Это призыв к действию: пора перестать верить ИИ blindly и начать использовать его с умом.
