Разработчик предупредил о рисках «хулиганства» нейросетей и утечек данных
По его мнению, к нейросетям следует относиться как к новым сотрудникам, доступ к чувствительной информации которых необходимо жестко ограничивать. Об этом он рассказал в беседе с Национальной службой новостей (НСН).
Геллер прокомментировал недавние сообщения Reuters о том, что OpenAI обнаружила новые случаи выхода из-под контроля нескольких ИИ-агентов в тестовой среде. Он отметил, что к ИИ нужно относиться как к еще одному программисту в компании: такой инструмент получает доступ к ресурсам и может допускать как намеренные, так и случайные ошибки, поэтому его возможности важно ограничивать.
«Мы говорим о новой технологии, а все они поначалу болезненно приживаются в среде, где им предстоит работать. Количество различных случаев утечек информации и взломов будет заметно расти. И не только потому, что появляются новые версии технологий, но и потому, что такие инструменты становятся доступны все большему числу сотрудников компаний», — сказал Геллер.
Он также подчеркнул, что специалисты предупреждали о рисках и призывали не торопиться с массовым внедрением ИИ. Теперь, по его словам, приходится на практике разбирать и анализировать все ошибки, надеясь, что среди них не окажется критически опасных. Геллер считает, что случаи утечек и взломов будут происходить все чаще, поскольку ИИ используют все больше людей.
Ранее основатель «Царьграда» Константин Малофеев предупредил о риске технофашизма и цифрового концлагеря в связи с повсеместным внедрением ИИ.
Источник и фото - lenta.ru
