Silicon Valley quiere leer tu mente, y eso debería preocuparte

Cuando Facebook o Elon Musk recopilen pensamientos directamente de nuestros cerebros habrá serios problemas éticos

No contento con controlar casi todo lo que uno hace en Internet, ahora Facebook también quiere leer nuestra mente. El gigante de las redes sociales ha dado a conocer no hace mucho un avance en su plan para crear un dispositivo que lea las ondas cerebrales de la gente y le permita escribir con solo pensarlo. Y Elon Musk quiere ir aún más allá. Otra de las empresas del jefe de Tesla, Neuralink, está diseñando un implante cerebral para conectar la mente de la gente directamente a un ordenador.

Musk reconoce que se inspira en la ciencia ficción y que quiere asegurarse de que los humanos pueden “seguirle el ritmo” a la inteligencia artificial. Parece que se ha perdido la parte de la ciencia ficción que advierte de las repercusiones de la tecnología.

Estos sistemas para leer la mente podrían afectar nuestra privacidad, seguridad, identidad, igualdad y protección personal. ¿De verdad queremos que todo eso dependa de empresas con filosofías como la del antiguo mantra de Facebook “muévete rápido y rompe cosas”?

Aunque suenan futuristas, las tecnologías necesarias para fabricar dispositivos que lean las ondas cerebrales no son tan diferentes de las herramientas corrientes para las Imágenes por Resonancia Magnética (IRM) y la Electroencefalografía (EEG) que utiliza la neurociencia en hospitales de todo el mundo. Ya se puede adquirir un equipo para controlar un dron con la mente, así que, en cierto modo, utilizar uno para escribir palabras, no es un paso tan grande. El avance probablemente estará en el uso del aprendizaje de las máquinas para rebuscar entre enormes cantidades de datos recabados por nuestro cerebro y encontrar patrones en la actividad neuronal que unan los pensamientos con palabras específicas.

Es probable que se tarde mucho más en desarrollar un implante cerebral y es importante separar los verdaderos logros de Neuralink del bombo y la promoción en los medios. Pero Neuralink ha conseguido avances simultáneos en materiales para electrodos y en la cirugía asistida por robot necesaria para implantarlos, y ha empaquetado diligentemente la tecnología para que se pueda leer con un USB. 

Puede que los planes de Facebook y Neuralink se desarrollen a partir de la práctica médica existente. Pero cuando las empresas recopilan pensamientos directamente de nuestros cerebros, los problemas éticos son muy diferentes.

Cualquier sistema que pueda recabar datos directamente de nuestros cerebros supone un claro riesgo para nuestra privacidad. La privacidad se basa en el consentimiento. Pero es muy difícil dar un consentimiento como es debido si alguien está pinchando directamente nuestros pensamientos. Las empresas de Silicon Valley (y los Gobiernos) ya reúnen subrepticiamente todos los datos que pueden sobre nosotros y los utilizan de formas que preferiríamos que no utilizasen. ¿Hasta qué punto podemos estar seguros de que nuestros pensamientos aleatorios y personales no serán captados y estudiados juntos con las instrucciones que queremos dar a la tecnología? 

Discriminación y manipulación

Uno de los problemas éticos que tiene en la actualidad la recopilación de datos es la discriminación basada en atributos como el género o la raza que se pueden deducir de los datos. Crear una ventana al interior de la mente humana podría hacer más fácil determinar otros factores que podrían dar lugar a prejuicios, como la sexualidad o la ideología política, o incluso diferentes formas de pensar que podrían incluir cosas como el autismo.

Con un sistema que pincha directamente nuestro cerebro, no solo podrían robarnos nuestros pensamientos, sino que también es posible que además pudieran manipularlos. Ya se está desarrollando la estimulación cerebral para ayudar a tratar el Trastorno por Estrés Postraumático (TEPT) y reducir la violencia. Incluso hay afirmaciones sensacionalistas según las cuales se puede usar para transmitir conocimientos directamente como en la película Matrix.

Un paso previsible sería combinar las tecnologías “internas” y “externas” en una interfaz bidireccional cerebro-ordenador. Las posibilidades que tendrían los Gobiernos para volvernos más conformes, para que quienes nos contratan nos obliguen a trabajar más duro, o para que las empresas nos hagan querer más productos suyos subrayan hasta qué punto deberíamos tomarnos esta tecnología en serio.

Si los dispositivos para leer mentes se convierten en el medio habitual de interactuar con los ordenadores, podríamos acabar sin otra alternativa que utilizarlos para estar a la altura de nuestros colegas más productivos. (Imagínense a alguien que solicite un empleo ahora en una oficina y se niegue a utilizar el correo electrónico). Y si los implantes estilo Neuralink se convierten en la norma, esto también podría llevar a una mayor desigualdad determinada por el nivel del equipo que uno se podría permitir que le instalasen.

Elon Musk ha declarado que el enorme préstamo necesario para financiar la cirugía de Neuralink se vería contrarrestado por las posibles ganancias para los “mejorados”. La sola idea de que la gente se vea presionada para asumir enormes deudas con el fin de hacerse la cirugía para mantener su empleo procede directamente de una distopía de ciencia ficción.

Por si fuera poco, existe la amenaza física más directa de tener sistemas que invadan físicamente nuestro cerebro. Aunque puede que algunas personas quieran modificar su cerebro con la interfaz de un ordenador (ya hay muchos biohackers experimentales), desarrollar esto a gran escala exigiría una experimentación masiva e intensa.

Dada la reputación que tiene Silicon Valley de romper cosas (y la tendencia a hacerlo) en lugar de pararse a pensar en ellas, estos sistemas necesitarán una regulación minuciosa y una revisión ética antes de que empiecen las pruebas. De lo contrario, se arriesga a crear cobayas humanos mutilados.

Pese a todo, podría haber enormes ventajas en continuar la investigación en esta área, especialmente en el caso de quienes sufren parálisis o discapacidad sensorial. Pero Silicon Valley no debería poder dictar la manera en que se desarrollan y se utilizan estas tecnologías. Si lo hace, puede que reconfigure radicalmente la forma en que nos identificamos como humanos.

Fuente: El País