Mistral AI выпустила новый API-интерфейс модерации, нацеленный на повышение безопасности контента с помощью масштабируемых и отказоустойчивых систем на основе LLM, которые поддерживают разные языки и разнообразные приложения. В компании Mistral заявили, что API, который поддерживает модерацию на платформе чат-бота Le Chat, может быть адаптирован к индивидуальным приложениям и критериям безопасности. API модерации основан на той же структуре, что и платформа Le Chat от Mistral AI, которая также обеспечивает модерацию. Он предлагает клиентам универсальный инструмент, который можно настроить в соответствии с конкретными стандартами безопасности и требованиями применения. Поскольку спрос на системы модерации на основе больших языковых моделей (LLM) растет, предложение Mistral AI направлено на предоставление масштабируемого и надежного решения. «Безопасность играет ключевую роль в том, чтобы сделать ИИ полезным», — заявила команда Mistral, объявляя о выпуске. «В Mistral AI мы считаем, что защитные меры на уровне системы имеют решающее значение для защиты последующих развертываний». Новая служба модерации, которая использует доработанную версию модели Mistral Ministral 8B, предназначена для обнаружения потенциально проблемного контента в девяти областях, включая сексуальный контент, разжигание ненависти, насилие, опасные действия и личную информацию. API поддерживает анализ как необработанного текста, так и диалогового контента. API включает классификатор LLM, который может классифицировать вводимые текстовые данные по девяти различным категориям. Он имеет конечные точки как для необработанного текста, так и для диалогового контента, что позволяет классифицировать сообщения в рамках определенных диалоговых настроек. Концепция поддерживает широкий спектр языков, включая арабский, китайский, английский, французский, немецкий, итальянский, японский, корейский, португальский, русский и испанский, что делает ее доступной для глобальной аудитории. Ранее мы сообщали, что Mistral выпустила Pixtral 12B, свою первую мультимодальную модель, способную анализировать текст и изображения. Модель скоро будет доступна для тестирования на чат-боте Mistral и платформах интерфейса прикладного программирования Le Chat и Le Platform, согласно сообщению, сделанному на X Софией Янг, главой отдела по связям с разработчиками Mistral.
