OpenAI presenta Model Spec, el conjunto de reglas que definen el comportamiento de sus modelos de IA

32

OpenAI, la compañía tecnológica liderada por Sam Altman, dio a conocer Model Spec, un conjunto de pautas y reglas diseñadas para guiar el comportamiento de sus modelos de Inteligencia Artificial (IA), incluyendo ChatGPT.

(Leer más: YouTube advierte sobre uso indebido de sus videos para entrenar Sora, la IA de OpenAI). 

Este documento busca establecer un marco claro sobre cómo deben actuar estos modelos al interactuar con las solicitudes de los usuarios, abordando aspectos como el tono, la personalidad y la duración de las respuestas.

Los modelos de IA de OpenAI funcionan a partir de una extensa base de datos con la que han sido entrenados. No obstante, el comportamiento de estos modelos no se programa de manera explícita, lo cual puede resultar ocasionalmente en respuestas erróneas o incoherentes.

Con Model Spec, OpenAI intenta proporcionar un entendimiento más profundo sobre las decisiones prácticas involucradas en la configuración de estos comportamientos, facilitando a los usuarios la comprensión y el debate sobre estos temas.

(Seguir leyendo: OpenAI y Google entrenan sus modelos de IA con transcripciones de videos de YouTube, según NYT). 

Por lo tanto, OpenAI lanzó el documento ‘Model Spec’ (especificaciones del modelo), que incluye un conjunto de reglas que guían el comportamiento de sus modelos en la API de OpenAI y el ‘chatbot’ ChatGPT. 

Estas pautas definen claramente las capacidades y limitaciones de los modelos, así como la manera en que deben formular sus respuestas a los usuarios, considerando aspectos como el tono, la personalidad y la extensión de las respuestas.

El documento, aún en su primera versión de borrador, detalla cómo la empresa desea que se comporten sus modelos. Refleja la documentación, investigación y experiencia acumulada en el diseño del comportamiento de ChatGPT.

(Le puede interesar: GPT-4 Turbo con Vision ya está disponible: estas son las novedades que trae). 

Según OpenAI, configurar el comportamiento de un modelo implica considerar una serie de preguntas y matices, además de equilibrar diferentes opiniones para determinar si los resultados pueden causar beneficios o daños.

En muchos negocios se utilizan los chatbots para facilitar procesos operativos.

Las respuestas de los modelos deben ser útiles sin excederse.

Foto:iStock

Por ejemplo, las capacidades de la IA pueden utilizarse para generar correos electrónicos de ‘phishing’ con fines educativos, como parte del entrenamiento para desarrollar herramientas que detecten ciberataques. Sin embargo, el mismo uso puede ser perjudicial si cae en manos de estafadores.

El objetivo de OpenAI es que los modelos de IA proporcionen resultados que beneficien a la humanidad y que las respuestas de ChatGPT sean útiles para desarrolladores y usuarios, alineándose siempre con las normas sociales y la ley aplicable.

(Puede ver: DALL-E ahora permite editar imágenes desde la interfaz de ChatGPT). 

Para lograrlo, la empresa ha implementado normas que manejan la complejidad de las solicitudes de los usuarios, asegurando la seguridad y legalidad de las interacciones.

Estas reglas incluyen seguir la cadena de mando, no divulgar información riesgosa, respetar los derechos de los creadores, proteger la privacidad de las personas y evitar responder a contenido no seguro para el trabajo (NSFW). 

Además, los modelos están programados para asumir las mejores intenciones de los usuarios y desarrolladores, y en caso de conflicto, realizar preguntas aclaratorias.

Las respuestas de los modelos deben ser útiles sin excederse, manteniendo un tono objetivo y promoviendo valores como la justicia y la bondad, mientras desalientan el odio. OpenAI enfatiza que los modelos no deben intentar cambiar la opinión de nadie.

(Le puede interesar: OpenAI abre ChatGPT para permitir su uso sin una cuenta registrada). 

Finalmente, OpenAI ve “Model Spec” como una guía para investigadores y entrenadores de IA que trabajan en el aprendizaje reforzado a partir de la retroalimentación humana.

“Vemos este trabajo como parte de una conversación pública en curso sobre cómo deben comportarse los modelos, cómo se determina el comportamiento deseado del modelo y cuál es la mejor manera de involucrar al público en general en estas discusiones”, finalizó OpenAI.

Más noticias

*Esta información fue reescrita con la asistencia de una inteligencia artificial basada en información de Europa Press, y contó con la revisión de una periodista y un editor.

Leave A Reply

Your email address will not be published.