OpenAI anunció este lunes su intención de implementar marcas de agua invisibles en textos generados por sus productos ChatGPT y Codex. Esta medida busca cumplir con la Ley de Inteligencia Artificial de la Unión Europea (UE).
La empresa indicó que en las próximas semanas comenzará a integrar esta funcionalidad para usuarios elegibles de ChatGPT y Codex en la UE. «Durante las próximas semanas, incorporaremos la marca de agua de texto para usuarios elegibles de ChatGPT y Codex de todos los planes, únicamente en la UE», detalló OpenAI en su blog.
Detalles sobre la implementación
A partir de hoy, los clientes de la interfaz de programación de aplicaciones (API) de OpenAI a nivel mundial podrán activar voluntariamente las marcas de agua en textos para ciertos modelos. Sin embargo, esta función estará desactivada por defecto, permitiendo que los clientes decidan su uso según sus obligaciones de transparencia.
OpenAI también mencionó que está colaborando con proveedores de computación en la nube para facilitar la implementación de la marca de agua en las salidas de sus modelos en las próximas semanas.
La tecnología detrás de esta marca de agua, denominada textGrain, inserta una «señal estadística invisible» en las elecciones de palabras del modelo, sin afectar su rendimiento. Esta señal puede ser detectada posteriormente para verificar si un texto ha sido generado por OpenAI.
No obstante, OpenAI advirtió que la detección podría presentar errores, como falsos positivos o negativos, especialmente en textos breves, y que su eficacia puede disminuir si el contenido es editado, reescrito o traducido.
Por esta razón, el detector será accesible solo para investigadores y organizaciones expertas aprobadas, quienes podrán comenzar a enviar solicitudes desde hoy.
La principal función de la marca de agua es identificar si un texto proviene de un modelo de OpenAI, pero no proporcionará información sobre «quién escribió originalmente el texto ni quién es su propietario», entre otras limitaciones. Además, OpenAI planea hacer que la tecnología textGrain esté disponible como código abierto para fomentar su desarrollo por parte de terceros.
Fuente: Plano Informativo
