Для обнаружения несоответствий в научных данных, ранее признанных точными, стали использовать технологии искусственного интеллекта.
В работе, опубликованнойСогласно публикации в журнале Nature, применение алгоритмов позволило выявить ошибки в химических справочниках, которые использовались экспертами на протяжении примерно 75 лет, и зафиксировать увеличение количества фактических ошибок в современных научных работах.
Искусственный интеллект сгенерировал новый научный термин, который ранее не был известен; теперь он упоминается во многих научных публикациях. «Не доверяйте ИИ». Нейросети были введены в заблуждение несуществующим заболеванием: что представляет собой биксонимания Шестнадцать лауреатов Нобелевской премии настоятельно рекомендовали незамедлительно предпринять шаги для смягчения последствий влияния искусственного интеллекта на экономическую сферу.
История с выявлением ИИ скрытых ошибокРазработка была запущена в Чжэцзянской лаборатории, расположенной в Ханчжоу, где химик-теоретик Себастьян Пиос использовал нейросеть для предсказания температур кипения различных молекул.
В ходе функционирования алгоритма было зафиксировано, что он регулярно демонстрирует результаты, не соответствующие информации, содержащейся в авторитетной справочной базе данных, которой химики пользуются уже на протяжении семидесяти пяти лет.
Читайте Men Today в MAX
На начальном этапе исследования предположилось, что причиной расхождений является дефект самой модели искусственного интеллекта; однако детальная проверка первоначальных публикаций и оригинальных источников опровергла эту гипотезу, поскольку неверными оказались данные в справочнике.Искусственный интеллект способствовал обнаружению ошибок в работах, датированных столетием назад, которые на протяжении многих лет воспроизводились из одного источника в другой.
В число выявленных ошибок вошли как случайные опечатки, так и ошибочные экспериментальные данные, которые впервые появились в научной литературе еще в начале двадцатого столетия. Эти сведения имеют решающее значение для научных и промышленных целей, поскольку на их основе разрабатываются процессы дистилляции, осуществляется идентификация веществ и создаются новые алгоритмы.
Использование искусственного интеллекта для проверки достоверности знаний стало применяться и в современных исследованиях. В частности, сотрудники компании SAI Labs использовали систему ИИ-агентов SAI Review для анализа 168 научных работ, отобранных для участия в конференции по машинному обучению ICML 2026 года.
Алгоритмы самостоятельно определяли основные выводы, представленные авторами, изучали сопутствующие материалы и стремились повторить заявленные эксперименты.
При анализе девяноста двух научных работ, содержащих не менее пяти поддающихся проверке утверждений, выяснилось, что нейросеть смогла повторить более четырех десятых долю выводов лишь в тридцать четырех случаях. При этом, полное подтверждение более восьмидесяти процентов заявленных результатов стало возможным всего для восьми статей из этого перечня.
Одновременно с этим группа исследователей из Стэнфордского университета во главе с Джеймсом Цзоу провела анализ публикаций, представленных на конференции NeurIPS. Специализированный инструмент искусственного интеллекта был разработан для выявления в работах объективных ошибок: неверных формул, ошибочных расчетов и неточностей в таблицах.
Проведенное исследование продемонстрировало увеличение среднего количества подобных ошибок в статьях с 3,8 в 2021 году до 5,9 в 2025 году, что составляет рост на пятьдесят пять процентов.
Тем не менее, несмотря на возможность ИИ оперативно обрабатывать большие объемы данных, Исследователи отмечают наличие технических преград для работы нейронных сетей . Как заявил эксперт из Норвежского университета науки и технологий Одд Эрик Гундерсен, используемые алгоритмы подвержены ошибкам, схожим с теми, что свойственны людям, в связи с чем каждое обнаруженное несоответствие нуждается в дополнительной проверке человеком.
Читайте Men Today в MAX
Текущие испытания демонстрируют, что наиболее совершенные модели выявляют лишь приблизительно 20% ошибок, которые фиксируются опытными рецензентами-людьми. Программное обеспечение может игнорировать существенные исходные данные, представленные авторами, или же ошибочно классифицировать правильные результаты как недействительные.
Оценка сложных математических доказательств по-прежнему предполагает детальный анализ каждой строки экспертом, что может потребовать нескольких дней.
Несмотря на это, комбинация высокой скорости обработки данных нейронными сетями и профессиональной оценки специалистов формирует новый подход к рецензированию научных трудов. В данном сценарии искусственный интеллект функционирует как инструмент, способный выявлять потенциально проблемные моменты в огромном количестве публикаций одновременно.
Тайная комната
Это интересно
Какой музыкальный инструмент обладает наибольшей громкостью: интуиция может ввести вас в заблуждение.
Техника
В Китайской Народной Республике активно развивается новая, востребованная специальность: теперь там существуют специалисты, выполняющие функции «ортопедов» для робототехнических систем.