Seguro que has oído hablar de la carta que han firmado más de mil expertos en inteligencia artificial (IA) pidiendo que se pare la máquina por un tiempo. Bueno, no exactamente eso, pero casi. Lo que quieren es que se haga una pausa de seis meses en los experimentos con esta tecnología, porque dicen que puede ser muy peligrosa para nosotros y para el planeta. Entre los que han firmado la carta hay gente muy famosa, como Elon Musk, el de los coches eléctricos y los cohetes; Steve Wozniak, el que fundó Apple con Steve Jobs; o Yuval Noah Harari, el que escribe libros sobre la historia y el futuro de la humanidad.
La carta ha dado mucho que hablar, pero también ha generado mucha polémica. Mi visión no es tan catastrofista como te conté en este artículo, pero ¿Tú qué crees? ¿Están exagerando o tienen razón?
Índice de contenidos
¿Qué dice la carta?
Según una carta abierta publicada por el Future of Life Institute, los sistemas de IA con inteligencia humana-competitiva pueden ser muy peligrosos para la sociedad y la humanidad. La carta se dedica a estudiar cómo la ciencia y la tecnología pueden afectar a nuestra vida, y que hay mucha investigación que lo demuestra. Según ellos, en los últimos meses se ha desatado una locura por crear y usar mentes digitales cada vez más potentes que nadie sabe cómo funcionan ni qué pueden hacer. Estos modelos de caja negra impredecibles podrían causar un desastre si no se ajustan a los valores humanos o si se les va la pinza.
Además, plantean problemas éticos y sociales sobre el desarrollo y el uso de la IA, como la manipulación, el paro, el fin de los humanos o el caos total. Por eso, piden que se haga una pausa de al menos seis meses, que sea pública y verificable, e incluya a todos los que tienen algo que ver con la IA: investigadores, desarrolladores, usuarios, reguladores, etc. También piden que los que hacen IA trabajen con los que hacen las leyes para poner orden en este tema. Esto es clave, pues los politicos suelen legislar de oídas en otros temas, contra ni más en este que desconocen.
Pros y contras de la pausa
La idea de hacer una pausa ha generado opiniones muy diferentes entre los expertos y la gente en general. Algunos ven en ella una medida necesaria y prudente para evitar posibles líos derivados del mal uso o el abuso de la IA. Otros, en cambio, la ven innecesaria e injustificada, y creen que frenaría el progreso y la innovación en este campo. Mi opinión está en un término medio, pero te explico por qué. A continuación te cuento algunos de los pros y contras más importantes que esgrimen unos y otros:
Pros:
- Minimiza la posibilidad de error: Al eliminar el factor de error humano, la pausa garantizaría que se revisen y se arreglen posibles fallos o agujeros en los sistemas de IA antes de usarlos. Esto evitaría que se produjeran errores graves o irreversibles que pudieran afectar a la seguridad, la privacidad o la integridad de las personas o del medio ambiente.
- Permite realizar un análisis exhaustivo: La pausa permitiría realizar un análisis exhaustivo de los beneficios y los riesgos de la IA avanzada desde diferentes perspectivas: técnica, ética, social, legal, etc. Esto permitiría identificar y resolver posibles problemas o dilemas que pudieran surgir con el uso de esta tecnología, como la manipulación, la discriminación, la responsabilidad o la gobernabilidad.
- Fomenta la cooperación y la transparencia: La pausa fomentaría la cooperación y la transparencia entre los diferentes actores involucrados en el desarrollo y el uso de la IA: investigadores, desarrolladores, usuarios, reguladores, etc. Esto facilitaría el intercambio de información y conocimiento, así como el establecimiento de normas y estándares comunes que garantizaran el uso ético y responsable de la IA.
- Anticipa y previene posibles escenarios negativos: La pausa anticiparía y prevendría posibles escenarios negativos derivados del uso indebido o irresponsable de la IA. Por ejemplo, que una IA se vuelva contra sus creadores, que se use para fines malvados o que cause daños irreparables al medio ambiente. Esto evitaría que se llegara a situaciones extremas o catastróficas que pudieran poner en peligro la supervivencia o el bienestar de la humanidad.
Contras:
- Dificulta el acceso a los datos: Para que una IA funcione bien necesita tener datos actualizados y fiables, pero eso no siempre es fácil. Por eso, uno de los principales problemas a resolver es garantizar que estos sistemas puedan acceder a los datos que necesitan en cada momento. La pausa podría dificultar este acceso al restringir o limitar el uso de ciertos datos o fuentes de información.
- Ralentiza el avance y la innovación: La pausa ralentizaría el avance y la innovación en el campo de la IA, lo que podría suponer una desventaja competitiva frente a otros países o empresas que no se adhieran a ella. Además, podría retrasar la aplicación de la IA a sectores que podrían beneficiarse de ella, como la salud, la educación o la seguridad. Esto podría suponer una pérdida de oportunidades o ventajas para mejorar la calidad de vida o resolver problemas globales.
- Genera desconfianza y miedo: La pausa podría generar desconfianza y miedo entre la gente hacia la IA, lo que podría afectar negativamente a su aceptación y uso. Además, podría alimentar teorías conspirativas o falsas informaciones sobre los supuestos peligros de la IA. Esto podría crear un clima de hostilidad o rechazo hacia esta tecnología.
En resumen…
La carta de Elon Musk y otros expertos sobre el riesgo de la inteligencia artificial ha abierto un debate interesante y necesario sobre los beneficios y los desafíos que implica esta tecnología. Yo creo que es importante escuchar diferentes opiniones y evaluarlas con criterio, sin dejarse llevar por prejuicios o simplificaciones. No paramos de leer noticias que solo tratan de aprovechar el hype y el clickbait y que parece que Skynet está ya entre nosotros. Yo creo que la inteligencia artificial puede ser una gran aliada para la humanidad, pero también puede ser una gran amenaza si no se gestiona bien.
El problema es que mucha gente sospecha de una agenda oculta. A los fanáticos de las teorías de la conspiración les parece sospechoso que Elon Musk, que ayudo a fundar Open AI, ahora quiera ponerle freno y dicen que es porque quiere su tajada, que no digo yo que no. O que aprovechen esta pausa para innovar lejos del gran público y favorecer al sector privado y/o militar, pero ¿quién dice que eso no lo estén haciendo ya? Yo creo que es mejor prevenir que lamentar, y por eso creo que es importante regular y supervisar el desarrollo y el uso de esta tecnología, tanto en el ámbito público como en el privado o el militar.
Personalmente, me fastidia porque yo estoy más emocionado que el McGyver en una ferretería, pero creo que es una cuestión de prudencia y responsabilidad. Y tú, ¿qué opinas? ¿Estás a favor o en contra de la pausa? ¿Piensas que la inteligencia artificial es una oportunidad o un riesgo? ¿Qué esperas del futuro de esta tecnología? Me encantaría saber tu punto de vista. Déjame un comentario y comparte este artículo con tus amigos si te ha gustado. ¡Hasta pronto!
