Entrevista por Pilar Castañon.
Hace unos días que saltó la noticia de la publicación de una fotografía que parecía retratar una explosión en el Pentágono (EEUU) creada realmente por Inteligencia Artificial. Esta fotografía no solo causó pánico en multitud de redes sociales, sino que incluso llegó a originar una caída breve en la bolsa de Nueva York. Esta situación nos parece recordar a la creada hace ya mucho tiempo por Orson Wells en su narración de «La guerra de los mundos» en los inicios de la radio, y que llegó a causar un gran pánico en la población, provocando incluso muertes. Pero no es un caso aislado como en aquella ocasión, sino que la IA hace posible que esta situación se de con más facilidad de lo que pensamos, y tanto acontecimientos y noticias, como suplantaciones de personalidad aparezcan en nuestro día a día como verdaderos, ocasionando noticias falsas con las consecuencias que puedan tener según el alcance de las mismas y la irresponsabilidad de quienes las manejan. No es tan inocuo como las inocentadas del día de los Santos Inocentes.
Lo que parece “progreso”, solo lo será en la medida en que se haga un buen uso del mismo. El progreso como tal, no es un fin en sí mismo, sino que lo será en función del objetivo o buen fin que se haga de ello, así que esto vuelve a poner sobre la mesa algunas preguntas acuciantes en relación a este tema:
¿Es necesaria una regulación de la IA?
¿Qué ingredientes debe tener esa regulación?
¿Pueden ya los creadores cuyo material se esté usando para entrenar a la IA sin su permiso demandar por ese uso?
Además de todo esto, una de las cuestiones más complicadas es la de distinguir el trabajo humano del generado por IA, por tanto ¿debería ser una obligación señalar de alguna manera esta manipulación generada por la IA para diferenciarlo del trabajo humano?
¿En qué punto está ahora la legislación sobre el tema en Europa y Estados Unidos?
Para saber un poco más de este tema que nos interesa a todos como receptores de esta información, hablamos con José Ramón Gil, abogado especializado en Propiedad Intelectual y tecnología del despacho Lex Juridic.
Woman Essentia.- ¿Cuál es la situación legislativa respecto a la IA en Europa en estos momentos?
José Ramón Gil.- El primer movimiento de Europa para regular la ahora tan conocida Inteligencia Artificial (IA) se hizo visible en el mes de abril de 2021, con la propuesta legislativa que efectuó la Comisión Europea a fin de “garantizar el buen funcionamiento del mercado interior de los sistemas de Inteligencia Artificial (en adelante, «sistemas de IA») y que en la Unión se aborden apropiadamente las ventajas y los riesgos que conlleva la IA.”
Aún en la actualidad, y ante un exponencial e imparable avance de la referida IA, la Unión Europea (UE) sigue estudiando un nuevo marco jurídico que logre garantizar la seguridad de los sistemas de IA introducidos y usados en el mercado de la UE. En líneas generales, busca que dichos sistemas respeten la legislación vigente en materia de derechos fundamentales, protección de datos y valores de la Unión Europea, facilitando el desarrollo de un mercado único para hacer un uso legal, seguro y fiable de las aplicaciones de IA y evitar así la fragmentación del mercado.
WE.- Parece que Europa ha tomado la delantera a los Estados Unidos. Desde su punto de vista, ¿Cuál serían los ingredientes clave de una propuesta legislativa completa?
JRG.- Para poder dar respuesta a esta pregunta, debemos entender cómo funcionan –por el momento– estas herramientas de IA.
La Inteligencia Artificial no hace uso de un razonamiento lógico en el momento de crear, sino que, nutriéndose de multitud de contenidos preexistentes, en base a una serie de reglas de búsqueda y con constante “entrenamiento”, nos da una posible resolución.
Ateniéndonos a este funcionamiento, es evidente que estamos ante un nuevo paradigma que va a obligar a tenerlo en cuenta a nivel normativo dado que se está haciendo uso de contenidos, datos y obras previamente existentes, los cuales son propiedad de terceros.
Para poder otorgar seguridad jurídica a todos aquellos que, de un modo u otro, obtengan un “producto” ofrecido por dicha IA, así como para garantizar los derechos correspondientes a todos aquellos terceros titulares de contenidos preexistentes de los que se ha servido la IA, podría ser interesante que este nuevo marco normativo estableciera la obligación de que todo “producto” generado por IA venga necesariamente acompañado de un “certificado” acreditativo de los elementos preexistentes de los que se haya compuesto ese “nuevo producto”, a fin de que cualquier usuario pueda conocer no sólo los componentes originarios de dicho resultado, sino también la esfera de derechos que orbitan en torno a esta nueva creación.
Teniendo en cuenta que dicha esfera de derechos podrá no siempre ser garantizada, o que la misma podrá verse afectada voluntaria o involuntariamente por parte de terceros, e incluso que la IA pueda cometer errores que se constituirían como infracciones de dichos derechos, entendemos que se hará necesario el nacimiento de una Agencia regulatoria de la IA que, con personalidad jurídica propia y plena capacidad pública y privada, actúe con independencia de las Administraciones Públicas en el ejercicio de sus funciones para velar por el cumplimiento de la legislación que eventualmente se formalice para regular la IA y controlar su aplicación.
WE.- En Estados Unidos la senadora Marsha Blackburn preguntó insistentemente al CEO de OpenAI sobre cómo planean compensar a los artistas, escritores, locutores y otros creadores de contenido de cuyo trabajo se alimentan herramientas como ChatGPT o Dall-e sin su permiso, ni conocimiento ni retribución a cambio. ¿Pueden ya los creadores cuyo material se esté usando para entrenar a la IA sin su permiso demandar por ese uso?
JRG.- Como decíamos anteriormente, la Inteligencia Artificial se nutre de multitud de contenidos preexistentes para darnos una posible resolución a nuestra petición. Teniendo en cuenta este funcionamiento, es muy debatible si, ante esta falta de razonamiento e ingenio, es una obra derivada en base a la legislación actual pues difícilmente podemos hablar de obras derivadas dado que sigue sin concurrir el ingenio humano.
La segunda cuestión es si se acaba considerando que el resultado es una obra y, en consecuencia, nacen derechos morales y patrimoniales de la misma, ¿a quién corresponden los mismos? Y si ese resultado es multi-utilizado, ¿a quién corresponderían los ingresos que de la utilización se produzcan? Ello también va a hacer necesario que se regule de qué modo los titulares de estos contenidos y obras preexistentes perciben una remuneración.
Es evidente que estamos ante un nuevo paradigma que va a obligar a tenerlo en cuenta a nivel normativo. Serán las propias sociedades propietarias de estas herramientas las que van a estar interesadas en que se reconozca y se regule lo relativo al derecho de autor.
La falta de regulación, como la actual, hace que ya se hayan instado acciones contra propietarios de determinadas plataformas IA, en reclamación de los derechos de autor que han sido ilícitamente utilizados (al no mediar consentimiento previo) por parte de dichas tecnologías, que no sólo no han recibido autorización para llevar a cabo su utilización, sino que han vulnerado otros derechos (tanto morales como patrimoniales) al no referenciar el nombre del autor original de dichas creaciones preexistes ni compensar económicamente a estos por los beneficios obtenidos como consecuencia de la utilización de dicho material original.
Y es que el propio CEO de Open AI acabó reconociendo que las personas deberían poder decidir si quieren o no que sus contenidos se usen para entrenar estos sistemas, pues lo contrario implicaría vulnerar los derechos que dichas personas, como autores de las obras preexistentes, ostentan en su condición de titulares.
WE.- Para distinguir el trabajo humano del generado por IA, ¿sería una opción marcar de alguna manera el segundo para diferenciarlo del primero?
JRG.- Cada vez se hace más patente que, en un futuro ciertamente cercano, será prácticamente imposible distinguir el material que ha sido humanamente creado de aquel artificialmente generado a través de Inteligencia Artificial.
Recientemente ha sido noticia cómo la publicación de una fotografía que parecía retratar una explosión en el Pentágono (EEUU), en realidad creada por Inteligencia Artificial, no sólo ha causado pánico en multitud de redes sociales, sino que ha llegado a originar una caída breve en la bolsa de Nueva York.
Lo anterior nos hace reflexionar sobre la impresionante capacidad de las herramientas de Inteligencia Artificial (IA) y su habilidad de generar contenido con apariencia sumamente real.
Todo ello nos llevará a un escenario en el que los materiales generados por Inteligencia Artificial serán completamente indistinguibles e indiferenciables de los materiales reales para las personas, por lo que se hará necesario disponer de herramientas (quizás también IA) que nos permitan efectuar dicha diferenciación.
En cualquier caso, y retomando lo relativo a las necesidades legislativas en esta materia, sería también necesario establecer disposiciones normativas que impongan la obligación de dejar expresa constancia de todo aquel material generado con IA, estableciendo asimismo un sistema sancionatorio que regule las penas que deben imponerse a todos aquellos que, con mala fe, creen contenidos aparentemente reales para imbuir a cualquier tercero a creer que se encuentra ante un material de carácter real. Y es que no podemos infravalorar los graves perjuicios que este tipo de engaños pueden generar, tanto en el ámbito moral como en el patrimonial, daños de los que cualquier perjudicado debería ser resarcido.
Imagen: Image by nguyễn dũng from Pixabay
Además de DJ soy informático y no veo el problema.
IA es una herramienta más, el uso es responsable el ser humano que solicita a la herramienta un tipo de creación.
Las personas son reacias al cambio «hasta que se adapta» a él
Siempre ha pasado. ¿No eres DJ por usar el sync de la controladora? 🙂
¿Es responsable Ableton o Pioneer de un Remix de un DJ?. Igual la obra final supera a la original ¿debemos castigar a Ableton por ello?.
Y dejo esta reflexión final. ¿Debieron los animales del planeta limitar nuestra actividad cuando «empezamos a ser conscientes» ?… La IA es un niño que está aprendiendo paso a paso, la legislaciones solo afectan a los cuatro pringaos del primer mundo… En el submundo y en los patios traseros seguirá creciendo a espaldas de la ley.