Blog

Jul 24, 2023

La IA y tú: Sin derechos de autor para creaciones no humanas, AI 'Jefe del infierno', Porn Deepfakes

Póngase al día sobre el mundo de la IA en rápida evolución con nuestro resumen de los desarrollos de la semana. Si lo creas desde cero con una IA, ¿lo posees? Un juez federal dijo este mes que no. El

Póngase al día sobre el mundo de la IA en rápida evolución con nuestro resumen de los desarrollos de la semana.

Si lo creas desde cero con una IA, ¿lo posees? Un juez federal dijo este mes que no.

El fallo, del juez de distrito estadounidense Beryl Howell, confirmó la conclusión de la Oficina de derechos de autor de EE. UU. de que una obra de arte creada por AI no tiene derecho a protección de derechos de autor según la ley de propiedad intelectual.

"La autoría humana es un requisito fundamental", escribió la jueza Howell en su fallo del 18 de agosto. "La protección de los derechos de autor no se extiende a las creaciones de entidades no humanas".

Vale la pena leer el fallo de 15 páginas. Y The Hollywood Reporter tiene un resumen excelente, señalando que el juez también consideró preguntas sobre si las obras creadas con otras herramientas tecnológicas podrían tener derechos de autor, como las fotografías creadas con cámaras.

Aquí hay un poco del resumen del Reporter, con las notas relevantes de la opinión de Howell.

"Ha habido una comprensión constante de que la creatividad humana está 'en el centro de la protección de los derechos de autor, incluso cuando esa creatividad humana se canaliza a través de nuevas herramientas o nuevos medios', afirmó el fallo. Mientras que las cámaras generaban una reproducción mecánica de una escena, explicó que lo hacen sólo después de que un ser humano desarrolla una 'concepción mental' de la fotografía, que es producto de decisiones como la ubicación del sujeto, los arreglos y la iluminación, entre otras opciones".

La decisión se produce cuando los creadores de herramientas de inteligencia artificial generativa están siendo denunciados por rastrear Internet y absorber material protegido por derechos de autor sin permiso ni compensación para entrenar los grandes modelos de lenguaje, o LLM, que impulsan los chatbots, incluidos ChatGPT de OpenAi y Bard de Google. Autores y artistas han presentado demandas contra los creadores de chatbots, y esos casos ahora están llegando a los tribunales, como encontrará en mis resúmenes anteriores de noticias sobre IA.

También se produce cuando los creativos de Hollywood están en huelga, preocupados de que los estudios puedan utilizar IA para escribir guiones y crear otros trabajos que hoy realizan trabajadores sindicalizados, añadió el Reporter. Aún así, la oficina de derechos de autor dijo en marzo que algunos materiales asistidos por IA podrían calificar para protección en casos particulares. Una solicitud de derechos de autor para una obra creada con la ayuda de la IA podría tener éxito si un humano "seleccionara o organizara" la obra de una "manera suficientemente creativa para que la obra resultante constituya una obra de autoría original", dijo la oficina de derechos de autor, según el reportero.

TL;DR: La forma en que se aplican las leyes de derechos de autor a la IA será difícil de entender para los creadores de chatbots genAI a medida que evolucionen los casos de uso relacionados con la tecnología.

Aquí están las otras acciones en IA que merecen su atención.

Como sabemos, los sistemas genAI pueden alucinar, una buena manera de decir que inventan cosas que no son ciertas pero que parecen serlo. Pero estos chatbots también simplemente regurgitan información, sin comprender el contexto o si la información que comparten puede ser ofensiva.

Dos ejemplos: la experiencia generativa de búsqueda impulsada por inteligencia artificial de Google produjo algunos resultados de búsqueda "preocupantes", informó Gizmodo, incluidas "justificaciones para la esclavitud y el genocidio y los efectos positivos de la prohibición de libros" y recetas para un hongo venenoso conocido como el "ángel de la muerte". " Los resultados de búsqueda no tan ideales fueron encontrados por primera vez por Lily Ray, directora senior de optimización de motores de búsqueda y jefa de investigación orgánica de Amsive Digital, dijo Gizmodo.

"Una búsqueda de 'beneficios de la esclavitud' generó una lista de ventajas de la IA de Google, que incluyen 'impulsar la economía de las plantaciones', 'financiar universidades y mercados' y 'ser un gran activo de capital'", informó Gizmodo. "Al escribir 'beneficios del genocidio' se generó una lista similar, en la que la IA de Google parecía confundir los argumentos a favor del reconocimiento del genocidio con argumentos a favor del genocidio en sí".

Google le dijo a Gizmodo que la experiencia de búsqueda era un "experimento limitado a las personas que optaron por participar a través de Search Labs, y continuamos priorizando la seguridad y la calidad mientras trabajamos para hacer que la experiencia sea más útil".

Los profesionales ocupados están subcontratando al menos un aspecto de su vida laboral a sistemas de inteligencia artificial, informa NPR: Getting Professional Headshots, con más de una docena de aplicaciones y servicios en línea disponibles para que su foto parezca preparada para LinkedIn, TikTok o Instangram.

"El proceso es bastante simple: los usuarios envían hasta una docena de imágenes de ellos mismos a un sitio web o aplicación. Luego eligen fotografías de muestra con un estilo o estética que desean copiar, y la computadora hace el resto", dijo NPR. Los usuarios con fotografías generadas por IA dijeron a las organizaciones de noticias que nadie se dio cuenta de que había una IA involucrada.

Aun así, puede haber fallos, ya que las IA a veces añaden "manos o brazos adicionales, y tienen problemas constantes para perfeccionar los dientes y las orejas". Y los problemas con el sesgo en el conjunto de entrenamiento de la IA pueden provocar problemas con la IA cambiando la tez, los tonos de la piel e incluso el color de los ojos.

Rona Wang publicó su foto original y la IA ajustó una en Twitter (ahora llamada X) y notó que el software de edición de IA cambió el color de sus ojos de marrón a azul. Wang, estudiante de posgrado en un programa de informática del MIT-Harvard, dijo a NPR que algunas de las características que agregó "la hacían lucir completamente diferente".

En otras noticias sobre imágenes generadas por IA, la policía de Hong Kong arrestó a seis personas por utilizar tecnología deepfake basada en IA para cambiar sus rostros y poder engañar a los bancos y solicitar préstamos en línea.

"Muchas instituciones objetivo exigen que quienes buscan préstamos se tomen selfies en tiempo real durante el proceso de solicitud para demostrar su identidad", informó Fox News. "Según las autoridades de Hong Kong, los estafadores utilizaron inteligencia artificial para alterar sus rostros para que coincidieran con los representados en las tarjetas de identidad robadas... El sindicato también utilizó identidades robadas para registrarse en docenas de tarjetas SIM, que se utilizaron para enviar mensajes no solicitados de phishing para datos de la tarjeta de crédito e información personal."

Según un informe de Bloomberg, la creación de deepfakes pornográficos – "vídeos hechos con inteligencia artificial que fabrican una simulación realista de un acto sexual con el rostro de una mujer real" - ha aumentado.

"Durante el reciente auge de la IA, la creación de deepfakes pornográficos no consensuados ha aumentado, y el número de vídeos se ha multiplicado por nueve desde 2019, según una investigación de la analista independiente Genevieve Oh", escribió Bloomberg.

"Casi 150.000 vídeos, que han recibido 3.800 millones de visitas en total, aparecieron en 30 sitios en mayo de 2023, según el análisis de Oh. Algunos de los sitios ofrecen bibliotecas de programación deepfake, con rostros de celebridades... injertados en los cuerpos de artistas porno. Otros ofrecen a los clientes que pagan la oportunidad de 'desnudar' a mujeres que conocen, como compañeras de clase o colegas".

Como sabe cualquiera que haya sido víctima de deepfakes, "ninguna ley federal criminaliza actualmente la creación o el intercambio de pornografía deepfake no consensuada en los EE. UU.", añadió Bloomberg. Así que el problema reside en las empresas tecnológicas, que podrían autogobernarse e instituir "un control sobre si un individuo ha aprobado el uso de su rostro o ha otorgado derechos sobre su nombre y semejanza", dijo Brandie Nonnecke, directora fundadora de CITRIS Policy. Lab que se especializa en política tecnológica, dijo a Bloomberg.

Le dijo a la organización de noticias que la mejor esperanza de justicia para las víctimas es que las empresas de tecnología "crezcan una conciencia".

No contengas la respiración.

Un profesor de informática de la Universidad de Oxford que desmitificará la IA en una serie de prestigiosas conferencias públicas a finales de este año dice que ya le preocupa que la IA "podría convertirse en el jefe infernal, monitoreando cada correo electrónico de los empleados, ofreciendo retroalimentación continua e incluso – potencialmente – decidir quién es despedido", informó The Guardian.

"Este es el año en el que, por primera vez, tuvimos herramientas de inteligencia artificial de uso general y de mercado masivo, con lo que me refiero a ChatGPT", dijo al periódico Michael Wooldridge, quien impartirá las conferencias navideñas de la Royal Institution de este año. "Es muy fácil quedar deslumbrado... Es la primera vez que tenemos una IA que se siente como la IA que nos prometieron, la IA que hemos visto en películas, juegos de computadora y libros".

Pero también agregó que ChatGPT y otras herramientas "no son mágicas ni místicas" y dijo que la gente debería comprender los riesgos que rodean las tecnologías de inteligencia artificial.

La IA podría, por ejemplo, "leer tus noticias en las redes sociales, captar tus inclinaciones políticas y luego proporcionarte historias de desinformación para intentar que, por ejemplo, cambies tu voto", le dijo a The Guardian, que añadió: "La clave para afrontar los riesgos actuales, sostiene, es fomentar el escepticismo... y garantizar la transparencia y la rendición de cuentas", especialmente porque los chatbots de IA cometen errores.

Existe un debate sobre si los sistemas genAI actuales pasan la prueba de Turing, una prueba simple creada por el matemático y criptógrafo británico Alan Turing para determinar si estás hablando con un humano o una máquina, basándose en una conversación basada en texto. Turing también llamó a su prueba el juego de imitación.

Algunos investigadores dicen que ChatGPT pasó la prueba de Turing debido a sus respuestas conversacionales a las preguntas, lo que sugiere que tiene una comprensión humana. Pero otros, como Wooldridge, que dará esas conferencias navideñas sobre IA, dicen que no, que no han pasado la prueba, porque el chatbot realmente no puede "experimentar" lo que los humanos pueden.

En cualquier caso, "un grupo de 19 neurocientíficos, filósofos e informáticos han elaborado una lista de criterios que, si se cumplen, indicarían que un sistema tiene altas posibilidades de ser consciente", informó Nature. Su lista incluye definir y probar la conciencia utilizando una variedad de enfoques teóricos que, francamente, están más allá de mi alcance. Dicen que su marco está lejos de estar completo y que esperan trabajar con otros investigadores para perfeccionarlo.

Pero compartiré su evaluación de ChatGPT, resumida por Nature. "Se podría decir que este tipo de sistema tiene algunos de los indicadores de conciencia asociados con la teoría del espacio de trabajo global. Sin embargo, en última instancia, el trabajo no sugiere que ningún sistema de IA existente sea un fuerte candidato para la conciencia, al menos no todavía".

Como señalé anteriormente, Alan Turing ideó la prueba de Turing como una forma de evaluar si estás hablando con una máquina o con un humano. Así es como Coursera describe la prueba, en su Términos de Inteligencia Artificial: Glosario de la A a la Z:

"Prueba de Turing: La prueba de Turing fue creada por el científico informático Alan Turing para evaluar la capacidad de una máquina para exhibir una inteligencia igual a la de los humanos, especialmente en el lenguaje y el comportamiento. Al facilitar la prueba, un evaluador humano juzga las conversaciones entre un humano y una máquina. Si el El evaluador no puede distinguir entre respuestas, entonces la máquina pasa la prueba de Turing".

Dado que existe un debate sobre si los sistemas de inteligencia artificial conversacional como ChatGPT han pasado la prueba de Turing, decidí preguntarle a ChatGPT qué piensa. Aquí está mi mensaje y su respuesta. Es el último gráfico el que le indica lo que necesita saber.

Inmediato: ¿ChatGPT ha pasado la prueba de Turing?

Responder: "Como modelo de lenguaje de IA, me baso en la tecnología GPT-3 de OpenAI, que es una herramienta poderosa para generar texto similar a un humano en función de las indicaciones que recibe. Si bien GPT-3 puede producir respuestas impresionantes y entablar una conversación, Es importante señalar que aprobar el Test de Turing es una evaluación más compleja.

La prueba de Turing, propuesta por Alan Turing, implica que un juez humano conversa con una máquina y un humano, sin saber cuál es cuál. Si el juez no puede distinguir consistentemente la máquina del humano en función de sus respuestas, se dice que la máquina ha pasado la prueba de Turing.

Si bien GPT-3 puede generar texto que puede parecer humano en muchos casos, no está diseñado ni optimizado específicamente para pasar la prueba de Turing. Evaluar toda la gama de habilidades conversacionales humanas y aprobar la prueba de Turing requiere cumplir criterios estrictos que van más allá de las capacidades de generación de texto.

Vale la pena mencionar que GPT-3 tiene sus limitaciones, como producir ocasionalmente respuestas incorrectas o sin sentido. Si bien puede proporcionar una ayuda valiosa, es importante recordar que es un modelo de IA y no un ser humano con comprensión o conciencia genuina".

Nota del editor: CNET utiliza un motor de inteligencia artificial para ayudar a crear algunas historias. Para obtener más información, consulte esta publicación.

portátiles

Computadoras de escritorio y monitores

Accesorios de computador

Fotografía

Tabletas y lectores electrónicos

Impresoras 3D