Диджитал ИИ теперь решает новые проблемы, незамеченные людьми: почему это может быть опасно
Поисковик уязвимостей на базе искусственного интеллекта (ИИ) от Google под названием Big Sleep впервые обнаружил проблемы в программном обеспечении (ПО).
Related video
Свою первую партию из 20 уязвимостей Big Sleep нашел в разном популярном программном обеспечении с открытым кодом, таком как аудио- и видеобиблиотека FFmpeg и пакет программ для редактирования изображений ImageMagick, пишет TechCrunch.
Как отмечают в издании, Google пока не раскрывала подробностей об обнаруженных ошибках, поскольку они еще не исправлены. Но сам факт того, что Big Sleep обнаружил эти уязвимости, является важным, поскольку он показывает, что эти инструменты начинают давать реальные результаты.
"Чтобы обеспечить высокое качество и практические отчеты, мы привлекаем эксперта-человека к процессу их представления, но каждую уязвимость обнаруживал и воспроизводил агент искусственного интеллекта без вмешательства человека", — сказала пресс-секретарь Google Кимберли Самра.
По данным портала, Big Sleep был разработан отделом искусственного интеллекта компании DeepMind, а также ее элитной командой хакеров Project Zero. Кроме Big Sleep, уже существуют и другие ИИ-инструменты, способные искать уязвимости, в частности RunSybil и XBOW.
Важно Искусственный интеллект начал участвовать в хакерских атаках: какой вред он наносит
Эксперты издания отметили, что эти инструменты имеют многообещающие возможности, однако и существенные недостатки. К примеру, несколько человек, которые поддерживают различные программные проекты, жаловались на сообщения об ошибках, которые на самом деле являются галлюцинациями.
Напомним, опрос показал, что к 2027 году 50% компаний, которые планировали значительно сократить штат работников службы поддержки клиентов, заменив их искусственным интеллектом, откажутся от этих планов.
Фокус также сообщал, что исследователи из Технологического института Нью-Джерси (NJIT) использовали искусственный интеллект, чтобы найти материалы для аккумуляторов нового поколения, которые могли бы заменить традиционные литиевые батареи.
