OpenAI anunció que pondrá una marca de agua invisible en textos generados por ChatGPT y Codex para usuarios de la Unión Europea, como parte de su respuesta a las nuevas reglas de transparencia de la Ley de Inteligencia Artificial (AI Act).
La compañía anunció que el despliegue comenzará durante las próximas semanas y que la señal permitirá a sistemas especializados identificar si un texto fue generado o procesado por una herramienta de OpenAI.
La medida no significa que aparecerá una etiqueta visible, un símbolo o una leyenda junto a cada respuesta. OpenAI utilizará textGrain, una tecnología que modifica de manera sutil el patrón con el que el modelo selecciona palabras o fragmentos. El resultado conserva la apariencia normal del texto, pero incorpora una señal que un detector puede buscar posteriormente.
Así funciona la marca de agua invisible de ChatGPT
La marca de agua no funciona como una etiqueta escondida dentro del documento. OpenAI explica que textGrain modifica las decisiones probabilísticas que el modelo toma al elegir entre palabras posibles, especialmente cuando existen varias opciones con significado similar. Al acumularse esas decisiones a lo largo de un texto, forman un patrón estadístico que puede reconocer un detector.
Fuente: emprendedor.com
