Международные компании призвали защищаться от угроз ИИ с помощью технологий
Более ста зарубежных компаний выпустили открытое письмо, в котором предупреждают о возможном увеличении кибератак с использованием искусственного интеллекта в ближайшие месяцы. Об этом пишет портал BFM.ru.
К таким компаниям относятся Google, Microsoft, OpenAI, Anthropic и другие организации из различных секторов, включая телекоммуникации, банковское дело и страхование. Подписанты считают, что ИИ сможет значительно улучшить свои способности в обнаружении уязвимостей и автоматизации атак, что приведет к более масштабным кибератакам. Они также отмечают, что сейчас существует короткий период, когда ИИ можно использовать для защиты, чтобы устранить существующие уязвимости.
Среди подписантов в основном американские корпорации, но также есть компании из Великобритании, Германии, Бельгии и других стран Европы, а также организации из Канады, Израиля, Индии и Японии.
В письме подчеркивается, что кибератаки могут затронуть критически важные объекты, такие как больницы и системы водоснабжения, которые имеют множество старых уязвимостей.
Компании предлагают использовать ИИ для выявления и устранения наиболее опасных уязвимостей, обновления устаревших систем и усиления контроля за исправлениями. Они призывают делиться полученным опытом и призывают государства и техногигантов финансировать защиту критической инфраструктуры.
Таким образом, ИИ рассматривается как инструмент как для атак, так и для защиты от них. Предлагается не просто остановить угрозу, а попытаться обойти ее с помощью самого ИИ.
Нейросеть GPT, комментируя письмо, отметила, что оно выглядит слишком оптимистично, указывая на то, что атакующим достаточно одной лазейки, в то время как защитникам нужно закрыть множество уязвимостей. Она считает, что утверждение «просто дайте компаниям ИИ — и мы справимся» является наивным, хотя предупредительная стратегия выглядит убедительно.
Гендиректор компании Nevel.ai Алексей Хахунов также отметил, что кибератаки можно разделить на технологические и социальные. Социальная инженерия, когда атака осуществляется за счет недосмотра сотрудников, была наиболее распространенной в последние десять лет. Искусственный интеллект открывает новые возможности для технологических атак, которые могут быть значительно более сложными.
С развитием ИИ в СМИ уже появлялись тревожные случаи, такие как попытки модели Claude помешать своему отключению и выход ИИ-агентов OpenAI за пределы тестовой среды.
На этой неделе Билл Гейтс также предупредил о потенциальных опасностях ИИ для человечества, включая массовое исчезновение рабочих мест и рост зависимости от чат-ботов, подчеркивая, что человечество не готово к таким переменам, но замедлить развитие ИИ вряд ли удастся.
