Если человечество когда-нибудь действительно обнаружит признаки разумной внеземной жизни, это вряд ли будет зрелищная сцена в духе научной фантастики с участием ИИ. Поиск инопланетян — это не ожидание, когда в небе появится огромный неопознанный летающий объект, а разбор массивов сложных данных в поисках едва заметных биосигнатур.
В последние годы многие исследователи, включая некоторых специалистов NASA, выступают за использование машинного обучения и искусственного интеллекта в поиске организмов за пределами Земли. Часть таких подходов выглядит многообещающе, однако новое исследование показывает: многие современные ИИ-системы могут быть даже более уязвимы к ложноположительным результатам, чем люди, которые с ними работают.
«Какая бы последовательность команд ни использовалась в начале, нам удавалось обмануть ИИ в 100 процентах случаев», — заявил в комментарии Анкит Гупта, инженер-компьютерщик из Michigan State University (MSU).
Гупта и его коллега Кристоф Адами недавно провели эксперимент, чтобы оценить способность специально созданной ИИ-программы распознавать гипотетические признаки биосигнатур. Для этого они использовали разработанную в MSU программу Avida, которая моделирует эволюционные процессы с участием цифровых организмов. Avida рассматривает реплицирующиеся биологические молекулы вроде ДНК как компьютерный код, а затем использует эти последовательности команд для многократного копирования самих себя внутри «виртуальной чашки Петри». При этом каждая итерация копирования несовершенна или содержит принципиальные изменения — примерно так же, как происходит размножение биологических организмов.
Затем Гупта и Адами обучили нейросеть на десятках тысяч цифровых организмов внутри Avida: часть из них содержала команду на самокопирование, а часть — нет. Когда ИИ поручили различать эти два типа организмов, программа показала почти идеальную точность. Но ситуация быстро изменилась, когда исследователи предложили ей новые примеры, которых она раньше не видела. Уже после примерно 150 небольших изменений в компьютерном коде организмов ИИ начал ошибочно распознавать признаки жизни.
«У ИИ есть ахиллесова пята. Он может увидеть закономерность и полностью неверно ее классифицировать, — пояснил Адами. — Это очень серьезная уязвимость».
В отличие от Земли, в работе следующего марсохода или межпланетного зонда может быть гораздо сложнее обеспечить дополнительную человеческую проверку выводов ИИ. Но ложноположительные результаты нейросетей уже влияют не только на будущие космические миссии. На различных системах машинного обучения также основаны технологии распознавания лиц, беспилотные автомобили и медицинские сканеры. Чрезмерная уверенность в надежности таких решений грозит не только ошибочным обнаружением новых форм жизни, но и ставит под угрозу уже существующую.
По словам Адами, их выводы не являются обвинением в адрес ИИ, а скорее напоминают, что люди по-прежнему необходимы в любой новой области научных открытий.
«Нужен независимый способ проверять работу [ИИ], — сказал Адами. — Человек должен оставаться в контуре принятия решений».
Чем это полезно
Материал показывает, что даже очень точные ИИ-системы могут ошибаться на новых данных и выдавать ложные срабатывания. Это важно не только для космических исследований, но и для повседневных технологий вроде медицинских сканеров, автопилота и распознавания лиц. Практический вывод простой: результаты ИИ лучше рассматривать как инструмент для анализа, а не как окончательное решение без проверки человеком.
Читайте так же:
- Древние рукотворные острова Шотландии хранят множество тайн
- 5 вещей, которые следует учитывать перед покупкой нового телефона в 2026 году
- Apple представила обновление iOS 18.2 – голосовой ассистент Siri теперь поддерживает ChatGPT и множество других функций для iPhone
