Seguridad del contenido de Azure AI
Aumente la seguridad de las aplicaciones de IA generativa con Límites de protección avanzados para una IA responsable
Información general
Crear Límites de protección sólidos para la IA generativa
- Detectar y bloquear contenidos violentos, de odio, sexuales y de autolesión. Configure umbrales de gravedad para su caso de uso específico, y cumpla las directivas de IA responsables.
- Crear filtros de contenido únicos y adaptados a sus necesidades mediante categorías personalizadas. Entrene rápidamente una nueva categoría personalizada proporcionando ejemplos del contenido que necesita bloquear.
- Proteja sus aplicaciones de IA contra ataques de inyección puntual e intentos de liberarlas. Identifique y mitigue las amenazas directas e indirectas con escudos rápidos.
- Identifique y corrija las alucinaciones generativas de la IA y asegúrese de que los resultados son fiables, precisos y se basan en datos con la detección de fundamentos.
- Localice contenidos protegidos por derechos de autor y proporcione fuentes de textos y códigos preexistentes con detección de material protegido.
Casos de uso
Proteja sus aplicaciones de IA
Desarrollar límites de protección para aplicaciones de IA generativa
Utilice la IA para supervisar los contenidos generados por personas
Seguridad
Seguridad y conformidad integradas
34 000
Ingenieros equivalentes a tiempo completo dedicados a iniciativas de seguridad en Microsoft.
15 000
Partners con experiencia especializada en seguridad.
>100
Certificaciones de cumplimiento, incluidas más de 50 específicas para regiones y países de todo el mundo.
Precios
Precios flexibles para satisfacer sus necesidades
Pague solo por lo que utilice, sin costes iniciales. Los precios de la Seguridad del contenido de Azure AI de pago por uso se basan en:
Productos relacionados
Cree e innove más rápido con los productos Azure AI
Utilice la Seguridad del contenido de Azure AI con otros productos de Azure AI para crear límites de seguridad avanzados para la AI generativa o para desarrollar soluciones integrales con herramientas de IA responsables integradas.
Casos de clientes
Vea cómo los clientes protegen sus aplicaciones mediante la Seguridad del contenido de Azure AI
Preguntas más frecuentes
Preguntas más frecuentes
-
Los modelos de Seguridad del contenido se han formado y probado específicamente en los siguientes idiomas: inglés, alemán, español, japonés, francés, italiano, portugués y chino. El servicio puede funcionar también en otros idiomas, pero la calidad puede variar. En todos los casos, debe realizar sus propias pruebas para asegurarse de que funciona para su aplicación.
Actualmente, las categorías personalizadas solo funcionan bien en inglés. Puede utilizar otros idiomas con su propio conjunto de datos, pero la calidad podría variar.
- Algunas funciones de la Seguridad del contenido de Azure AI solo están disponibles en determinadas regiones. Consulte las funciones disponibles en cada región.
- El sistema supervisa cuatro categorías de daños: odio, sexual, violencia y autolesiones.
- Sí, puede ajustar los umbrales de gravedad para cada filtro de categoría de daño.
- Sí, puede utilizar la API de categorías personalizadas de la Seguridad del contenido de Azure AI para crear sus propios filtros de contenidos. Proporcionando ejemplos, puede entrenar al filtro para que detecte y bloquee contenidos no deseados específicos de las categorías personalizadas que haya definido.
-
Los escudos de inyección mejoran la seguridad de los sistemas de IA generativa defendiéndolos de los ataques de inyección:
- Ataques rápidos directos (liberaciones): Los usuarios intentan manipular el sistema de IA y eludir los protocolos de seguridad creando mensajes que intentan alterar las reglas del sistema o engañar al modelo para que ejecute acciones restringidas.
- Ataques indirectos: El contenido de terceros, como documentos o correos electrónicos, contiene instrucciones ocultas para explotar el sistema de IA, como comandos incrustados que una IA podría ejecutar sin saberlo.
- La detección de fundamentos identifica y corrige los resultados no fundamentados de los modelos generativos de IA, garantizando que se basan en los materiales de origen proporcionados. Esto ayuda a prevenir la generación de información fabricada o falsa. Mediante un modelo lingüístico personalizado, la detección de fundamentos evalúa las afirmaciones con respecto a los datos de origen y mitiga las alucinaciones de la IA.
-
La detección de material protegido para texto identifica y bloquea contenidos de texto conocidos, como letras de canciones, artículos, recetas y contenidos web seleccionados, para que no aparezcan en los resultados generados por la IA.
La detección de material protegido para código detecta e impide la salida de código conocido. Comprueba las coincidencias con el código fuente público en los repositorios de GitHub. Además, la capacidad de hacer referencia al código de GitHub Copilot permite a los desarrolladores localizar repositorios para explorar y descubrir código relevante.
- El sistema de filtrado de contenido dentro de Azure OpenAI cuenta con la tecnología de Azure AI Content Safety. Está diseñado para detectar e impedir la salida de contenidos nocivos tanto en los mensajes de entrada como en los de salida. Funciona junto con los modelos principales, incluidos GPT y DALL-E.
Pasos siguientes
Elija la cuenta de Azure adecuada para usted
Pague por uso o pruebe Azure gratis durante un máximo de 30 días.
Soluciones de Azure
Soluciones en la nube de Azure
Solucione sus problemas empresariales con combinaciones probadas de servicios en la nube de Azure, así como documentación y arquitecturas de ejemplo.
Centro de soluciones empresariales
Buscar la solución adecuada de Microsoft Cloud
Examine el centro de soluciones empresariales de Microsoft para encontrar los productos y soluciones que pueden ayudar a su organización a alcanzar sus objetivos.