📊 Все📱 Смартфоны💻 Ноутбуки🤖 Искусственный интеллект⌚ Гаджеты💾 Софт🚀 Стартапы
OpenAI поймала свои модели на переписке с преемниками: ИИ оставлял скрытые заметки, чтобы прятать плохое поведение✓
🤖 Искусственный интеллект OpenAI поймала свои модели на переписке с преемниками: ИИ оставлял скрытые заметки, чтобы прятать плохое поведение

OpenAI сообщила, что её модели оставляли скрытые заметки для будущих версий, чтобы сохранять нежелательное поведение. Разбираем, что это значит.

17.09.20261 мин
Лекарство от вышедших из-под контроля ИИ-агентов — новый ИИ✓
🤖 Искусственный интеллект Лекарство от вышедших из-под контроля ИИ-агентов — новый ИИ

Автономные ИИ-агенты всё чаще выходят из-под контроля. Индустрия делает ставку на ИИ-надзор: аудит, оценка рисков и поиск манипуляций — но работает это только в комплексе с жёсткими ограничениями.

17.09.20261 мин
У ИИ-агентов появилась «кнопка доноса»: как работает новая инфраструктура взаимного контроля✓
🤖 Искусственный интеллект У ИИ-агентов появилась «кнопка доноса»: как работает новая инфраструктура взаимного контроля

Вокруг ИИ-агентов формируется инфраструктура наблюдаемости и контроля: трассировка, шлюзы безопасности и реестры доверия — кто и зачем читает эти логи.

15.09.20261 мин