Otro invitado: Los peligros de la manipulación subconsciente de la inteligencia artificial

A nivel mundial, los 193 Estados Miembros de la UNESCO tendrán uno en noviembre de 2021 Recomendación sobre la ética de la inteligencia artificial Según cabe suponer. La recomendación de AI reconoce explícitamente “los efectos positivos y negativos profundos y dinámicos de la inteligencia artificial (IA) en las sociedades, los entornos, los ecosistemas y la vida humana, incluidos para la mente humanaEn. El enfoque en los efectos sobre el cerebro humano es particularmente notable, porque el uso de la inteligencia artificial afecta no solo el medio ambiente, sino también el pensamiento humano, la interacción y la toma de decisiones.

Sobre el Autor:

Rustam J. Norte Profesor de Derecho y Jefe del Departamento de Estudios Jurídicos Globales de la Facultad de Derecho de la Universidad de Macao, Macao (China). Su libro Ley de Inteligencia Artificial de la Unión Europea fue publicado recientemente por Routledge.

El informe, publicado en abril de 2021, llama aún más la atención sobre los riesgos significativos que los sistemas de IA representan para el pensamiento y el comportamiento humanos. Propuesta de la Comisión Europea Ley de la Inteligencia Artificial (IA). La propuesta generalmente tiene como objetivo garantizar la credibilidad y la seguridad de los sistemas de IA.

En concreto, de conformidad con el artículo 5, la propuesta prevé la prohibición de prácticas de IA especialmente nocivas que vulneren los valores de la Unión. Esta clase de sistemas de IA maliciosos incluye aquellos que 1) explotan la vulnerabilidad de un grupo particular de personas, 2) evalúan la credibilidad de las personassistemas de registro social), 3) utilizados para la identificación remota en tiempo real, y 4) sistemas de inteligencia artificial utilizados para la influencia subconsciente fuera de la conciencia de una persona.

Integración con interfaces cerebro-computadora

La última categoría de “sistemas subliminales de IA” debe tener un papel central en la propuesta legislativa actual. La razón principal de esto es que la inteligencia artificial, junto con un número cada vez mayor de otras tecnologías avanzadas, como las interfaces cerebro-computadora (BCI), las imágenes de resonancia magnética funcional, los macrodatos, el Internet de las cosas, la cadena de bloques, la robótica o el seguimiento ocular tecnologías y muchos más, capaces no solo de manipular la mente de los usuarios, sino también de influir en gran medida en su comportamiento. Estas posibilidades reales de manipular pensamientos y comportamientos solo aumentarán en el futuro. La programación informática ya se ha extendido lingüística y técnicamente a programadores.

Técnicas de manipulación conocidas desde hace 100 años

Los estudios realizados por un neurólogo y psiquiatra austriaco han demostrado que los peligros de la manipulación inconsciente son reales. Otto Putzel Implementado antes de 1917. Posteriormente, los mismos métodos se utilizaron en Estados Unidos para aumentar la efectividad de la publicidad, como el uso de imágenes camufladas para vender palomitas de maíz y algunos refrescos. En un libro de 1957 (“Máscaras ocultas”) El autor Vance Packard ya advirtió que el uso de métodos subconscientes será útil y será útil no solo para publicidad comercial, sino también para manipular procesos políticos como las elecciones.

En Europa y en otros lugares, estas preocupaciones finalmente llevaron a una prohibición general de la publicidad subliminal en la televisión a partir de 1989. En la década de 1990, los casos de manipulación subconsciente volvieron a ocupar los titulares en los Estados Unidos en relación con varias demandas contra músicos de rock que habían sido reemplazados. canciones con mensajes en espejo (esconderseSe dice que fue responsable de los suicidios de muchos jóvenes con mensajes subliminales.

Del espionaje cerebral a los deepfakes

Hoy científicamente ya no hay dudas sobre la eficacia y los verdaderos efectos de las técnicas inconscientes. En el campo del neuromarketing, la pregunta no se formula sipero solo más Cómo Estos métodos subconscientes son efectivos. Lo mejor del estado actual del arte es el llamado spyware cerebral (Software espía cerebral) resulta. Utilizando técnicas subliminales y un modelo de aprendizaje automático, esto permite acceder a datos privados como información bancaria, códigos PIN, lugar de residencia o fecha de nacimiento en el cerebro.

También conocido como “patrones oscuros” (patrones oscuros), que se refiere al diseño correlativo de sitios web y publicaciones en redes sociales, y utiliza elementos engañosos indetectables para manipular a los usuarios a través de diversos métodos, como publicidad velada, alarmismo o “señuelo y cambio”. Del mismo modo se falso profundo O la combinación de publicidad dirigida y algoritmos ocultos que utilizan los motores de búsqueda para determinar no solo el éxito de las empresas sino también el resultado de las elecciones, como reveló el escándalo de Cambridge Analytica.

Los daños acumulativos también deben incluirse en la ley.

Los graves riesgos asociados con la manipulación inconsciente de los pensamientos y el comportamiento requieren que la legislación propuesta amplíe el alcance legal del daño físico o psicológico para incluir otras formas, como el daño financiero, económico, cultural y social. Debido a que estas formas de manipulación tienden a ser sutiles y se extienden a través de una variedad de medios, su impacto aumenta con el tiempo. Por lo tanto, también es necesario limitar el alcance de tales técnicas inconscientes para que también se pueda incluir el daño acumulativo, es decir, el daño causado por el consumo continuo.

No existe un umbral absoluto para la conciencia subconsciente.

Con respecto a la manipulación de los pensamientos y la mente, también es necesario aclarar la cuestión de los órganos de los sentidos correspondientes. Sin embargo, de acuerdo con la psicología física (es decir, la rama de la psicología que estudia las interrelaciones entre los estímulos corporales y la percepción de esos estímulos), no existe un umbral absoluto para la percepción inconsciente, porque los umbrales para un estímulo en particular difieren entre diferentes personas y dentro de sí mismos. una persona varía.

Al mismo tiempo, muchos sistemas de IA utilizan técnicas de manipulación que operan tanto por debajo (subconscientemente) como por encima (por encima del umbral) de la conciencia. En este caso, la prohibición antes mencionada de los sistemas de IA debería extenderse desde “el uso de tecnologías subliminales” a “tecnologías supracriminales”, o reemplazarlo por el término “tecnologías trascendentales”. La razón es que los estímulos manipulativos son dinámicos y operan por encima y por debajo del umbral de la percepción consciente.

Se necesita una definición más amplia de las tecnologías de inteligencia artificial

El ejemplo del término ‘adicción por diseño’ muestra que la intensidad y la cantidad de estímulos seguirán aumentando con la futura integración de los sentidos en lo que se denomina ‘Realidad Aumentada y Virtual’ (AR). Se difunde a través del concepto de metaversos. Por esta razón, también se justifica y es necesaria una definición más amplia de las técnicas de manipulación utilizadas por la IA, porque el proceso de percibir la vida involucra todos los sentidos y, por lo tanto, representa una experiencia multisensorial. Por la misma razón, ahora es evidente que el estudio tradicional de los sentidos, que vi de forma aislada y limitada a cinco, ahora está obsoleto.

Un debate mundial impulsado por la UNESCO

En general, la prohibición de la UE de las prácticas dañinas de IA, que también incluye los sistemas subliminales de IA, es bienvenida. Sin embargo, al mismo tiempo, muchas preguntas científicas relevantes deben ser consideradas de cerca y deben hacerse las enmiendas apropiadas al texto legal final. Al mismo tiempo, se necesita un debate global como este. Recomendación de la UNESCO sobre la ética de la inteligencia artificial Se ha propuesto con éxito no solo utilizar las oportunidades esperadas de la inteligencia artificial, sino también poder enfrentar sus riesgos y daños reales en consecuencia.

Como conclusión, cabe señalar que George Orwell ya en 1948 en su novela 1984 Advirtió que la invención de la imprenta, el cine y la radio facilitó influir en la opinión pública y puso fin a la “vida privada”. Traducido al presente y al futuro, esto significa que la inteligencia artificial y las tecnologías relacionadas, como Software espía cerebralrepresenta una amenaza real hoy que podría acabar con la “privacidad del pensamiento” en el futuro.