галлюцинации

Интересная особенность чат-бота вызвала опасение за правдивость информации. Чат-бот Grok оказался в центре скандала в соцсети X*, генерируя новости на основе шуточных сообщений и представляя их как достоверные сведения. Один из пользователей обнаружил материал, написанный ИИ, который...

Google запретила модели генерировать картинки с людьми, пока она не научится здравому смыслу. Компания Google временно «запретила» чат-боту Gemini генерировать изображения с людьми. В чем же причина? Дело в том, что пользователи в социальных сетях начали подшучивать над странными...

Робот-прокатор заставлял людей слышать несуществующие голоса, а ученые исследовали границы восприятия. Швейцарские ученые изобрели уникальный метод исследования слухо-вербальных галлюцинаций, который позволяет здоровым людям слышать несуществующие голоса. Эксперимент, описанный в журнале...

Инструмент Woodpecker предлагает новый подход к "воспитанию" нейросетей. Исследователи из Университета науки и технологий Китая (USTC) в сотрудничестве с лабораторией Tencent YouTu Lab разработали фреймворк под названием Woodpecker (досл. — дятел) для коррекции так называемых...

Исследователи проверили, кто лучше справляется с онлайн-поиском. Что показал эксперимент? Современные нейросети, работающие на основе больших языковых моделей ( LLM ), долгое время вызывали опасения из-за своей способности выдавать ответы, которые, хоть и кажутся правдоподобными, на самом...

Читеры стали жертвами своего же обмана. Разработчики Call of Duty продолжают бороться с читерами, используя необычные методы. В последнем обновлении игры они добавили функцию, которая заставляет читеров видеть галлюцинации вражеских бойцов, которых на самом деле нет. Эта функция работает...

Система AIP представлена для военного применения, но отсутствие информации о предотвращении "галлюцинаций" вызывает серьезные опасения. Palantir, компания миллиардера Питера Тиля, запускает платформу искусственного интеллекта Palantir (AIP), предназначенную для запуска больших языковых...