red team

Более 200 лидеров отрасли создадут новые правила жизни в мире ИИ-моделей. Администрация Байдена объявила о создании Консорциума Института безопасности искусственного интеллекта США ( AI Safety Institute Consortium, AISIC ), первого в своем роде объединения, посвященного безопасности ИИ...

По запросу Белого Дома компания создала инструменты для оценки безопасности моделей. Компания Meta* объявила о выпуске комплекса инструментов для обеспечения безопасности и оценки генеративных моделей искусственного интеллекта (ИИ). Набор инструментов получил название Purple Llama и...

Хакеры уже нашли способы, как можно манипулировать ИИ для кражи личных данных и паролей. Исследователи Google выявили 6 основных типов атак на системы искусственного интеллекта, включая манипуляции с большими языковыми моделями (Large Language Model, LLM ), используемыми, например, в...

Коварные вымогатели играют на доверии пользователей к известному бренду. 17 июля исследователи из MalwareHunterTeam обнаружили новый вид программы-вымогателя под названием «SophosEncrypt», эксплуатирующий доброе имя компании Sophos , широко известной в сфере кибербезопасности...

Инструмент для красной команды обходит защиту Microsoft и собирает данные пользователей сервиса. Член красной команды ( Red Team ) ВМС США опубликовал инструмент под названием TeamsPhisher , который позволяет провести фишинговую атаку на пользователей Microsoft Teams. Инструмент...

Новая система Кевина Митника может стать серьезной угрозой для безопасности компаний. Кевин Митник, бывший хакер-бандит, который провел несколько лет в тюрьме в 1990-х годах за различные компьютерные преступления, продемонстрировал свою новейшую разработку - мощную систему с 30...