Сообщается, что рутинная задача разработчика по очистке превратилась в катастрофу после того, как небольшая ошибка в коде, сгенерированном искусственным интеллектом, привела к удалению всего диска.
Инцидент, впервые описанный в сообщении Reddit, касался кода, сгенерированного ChatGPT Codex (версия 5.3). Пользователь запросил простой скрипт PowerShell для удаления папок pycache на Python. Вместо этого скрипт удалил содержимое пользовательского диска F:, включая файлы проекта и данные Docker.
Что пошло не так
Согласно сообщению, проблема возникла из-за тонкой проблемы с экранированием в строке пути. Сгенерированный скрипт использовал обратную косую черту () для экранирования кавычек. Этот подход может работать в определенных контекстах командной строки, но при вызове PowerShell все становится запутанным cmd.exe через cmd /c. В этом случае экранирование не сработало должным образом. Переменная path была фактически заменена на , которую Windows интерпретирует как корень текущего диска.
В сочетании с параметрами rmdir для автоматического рекурсивного удаления команда, как сообщается, была выполнена без запроса подтверждения. Результат: все, что находится в корневом каталоге диска, было удалено.
Это не было сложным эксплойтом или какой-то непонятной ошибкой, просто небольшое несоответствие в том, как разные оболочки Windows обрабатывают экранирование.
Этот эпизод подчеркивает растущую тенденцию, которую иногда называют “виброкодированием”. Для простых задач это может сэкономить время. Но когда команды напрямую взаимодействуют с файловой системой, небольшие ошибки могут быстро возникать.
PowerShell и cmd.exe по-разному интерпретируют экранирование. В встроенном PowerShell правильным экранирующим символом обычно является обратный тик (`), а не косая черта. При смешивании двух сред возникают проблемы, которые не всегда очевидны даже опытным пользователям.
Существует также более широкая реальность командной строки Windows: разрушительные команды, такие как rmdir или Remove-Item -Recurse -Force, не обязательно включают встроенные проверки безопасности, если они явно не настроены на запрос.
Сообщается, что разработчику удалось восстановить некоторые данные из резервных копий, но большая часть содержимого диска была утеряна.
Подобные инциденты не означают, что инструменты для кодирования с помощью искусственного интеллекта по своей сути небезопасны. Однако они усиливают основное правило: всегда внимательно просматривайте созданные сценарии. Выполнение команд сначала в изолированном каталоге или снятие флагов принудительного или неактивного использования во время тестирования может помочь избежать наихудших сценариев.
Искусственный интеллект может ускорить рабочие процессы. Но когда дело доходит до файловых операций, один неправильно вставленный символ все равно может иметь серьезные последствия.
