Microsoft делает ставку на безопасность ИИ
Microsoft запускает рейтинговую систему оценки безопасности ИИ-моделей для повышения прозрачности и ответственности.
Основные критерии оценки
PYMNTS сообщает: оцениваются устойчивость, борьба с галлюцинациями, снижение предвзятостей и защита от злоупотреблений.
Необходимость стандартов
Fortune отмечает: на фоне масштабирования генеративного ИИ возрастает потребность в стандартах безопасности.
Партнёрство для точности
Microsoft…
LawZero — концепция честного ИИ
В 2025 году Йошуа Бенджио запустил LawZero — инициативу по созданию ИИ, способного признавать свою неуверенность.
Зачем ИИ признавать неуверенность
Обычные модели ИИ дают уверенные ответы даже при нехватке данных. LawZero позволяет системе говорить: «Я не знаю», если ответ сомнителен.
Прозрачность — основа доверия
Явное отображение неуверенности повышает доверие пользователей…