¿Es peligrosa la IA en Internet?

Una horda de aplicaciones impulsadas por la inteligencia artificial (IA) se multiplica ahora en Internet.

Actualmente, la IA impulsa muchos de los servicios en línea que utilizamos a diario. Algunos son evidentes, como los chatbots o los asistentes virtuales. Otras herramientas de IA tienden a funcionar de forma invisible, como las recomendaciones de búsqueda o la moderación de contenidos.

Aunque esta nueva ola de inteligencia artificial promete mucho, también conlleva algunos riesgos graves. Sigue leyendo para conocer algunos de los peligros de la IA en Internet y cómo evitarlos.

Microhistoria de la IA

En la última década, la inteligencia artificial se ha extendido rápidamente por el mundo digital.

La IA es exponencialmente más potente que hace diez años. La IA dirige sistemas en el sector inmobiliario, la sanidad, las ventas minoristas online y cualquier otro sector importante que se pueda nombrar.

Los sistemas de IA pueden ahora analizar cantidades inmensas de datos para encontrar patrones, hacer predicciones y generar contenidos similares a los humanos. Grandes empresas tecnológicas como Google, Facebook, Microsoft y Amazon han invertido miles de millones en el desarrollo de herramientas de IA.

Y, por supuesto, OpenAI lanzó ChatGPT en noviembre de 2022 [1]. Este asistente de chat con grandes modelos lingüísticos (LLM) supuso un enorme avance en la capacidad de las máquinas para generar palabras escritas que suenen humanas [2]. Pero, ¿será ese avance un gran salto adelante, o un salto al precipicio hacia un mundo de Internet en el que no podemos distinguir la verdad de la mentira? [3]

IA: ¿regalo o amenaza?

Los defensores de la IA afirman que tiene el potencial de transformar la medicina, la educación, el transporte y mucho más. Creen que, con el tiempo, podríamos ver curas para casi todas las enfermedades, una educación personalizada que funcione para todos los niños y un transporte limpio y sostenible.

Pero la inteligencia artificial también plantea graves peligros, y muchos de esos peligros circulan ahora por Internet.

Los sistemas avanzados de IA necesitan grandes cantidades de datos para funcionar bien. ¿Recopilará la IA tus datos privados de Internet, incluso de forma contraria a la ley? ¿O serán capaces las aplicaciones de IA de recopilar tantos datos sobre ti que otros puedan influir en tus opiniones con una manipulación cuidadosamente dirigida?

 

Otro riesgo de la IA es la parcialidad contra determinados grupos de personas. La complejidad de la IA hace difícil saber si se están tomando decisiones sesgadas. Los expertos llaman a este tipo de aplicaciones de IA "caja negra" porque ni siquiera los creadores del sistema saben exactamente cómo la IA toma sus decisiones [4].

Un tercer gran peligro de la IA es su capacidad para generar contenidos. Los textos que contienen información falsa ya son malos, pero las fotos falsas y los vídeos deepfake son aún más dañinos.

Por último, la IA puede ser capaz de generar ciberataques sofisticados. Los ciberdelincuentes ya son buenos engañando a la gente para que haga clic en enlaces falsos que descargan malware. La IA aumentará la capacidad de los ciberestafadores para engañarte.

La IA también ayudará a los piratas informáticos a encontrar más vulnerabilidades en el software, lo que podría permitirles invadir tu ordenador. Peor aún, podrían hacer caer grandes sistemas de empresas o gobiernos, provocando el caos en la banca, la cadena de suministro o la respuesta a crisis.

Beneficios de la IA en línea

Estas son algunas de las principales ventajas de la inteligencia artificial en línea:

Experiencias de usuario más personalizadas: la IA puede analizar su comportamiento anterior y sus preferencias para personalizar las interfaces, los contenidos y las recomendaciones de productos específicamente para usted. Esto puede ahorrarle tiempo y ayudarle a encontrar rápidamente lo que necesita.

Automatización de tareas tediosas: la IA es idónea para tareas repetitivas en línea, como la moderación de contenidos, el filtrado de spam y el análisis de datos. Esto puede liberar a los humanos para un trabajo más creativo e interpersonal.

Análisis de datos y conocimientos sofisticados: la capacidad de reconocimiento de patrones de los algoritmos de aprendizaje automático nos permite analizar datos a una escala nunca antes vista. Esto facilitará nuevos descubrimientos científicos. Por ejemplo, el uso de la IA descubrió recientemente patrones en el lenguaje de los cachalotes que podrían permitirnos algún día comprender el significado de sus chasquidos [5].

La IA puede mejorar nuestra vida digital y también aportará beneficios a nuestra vida física y nuestra salud. Pero pueden surgir riesgos importantes si el uso de estas tecnologías sigue siendo incontrolado.

 

Riesgos y peligros de la IA descontrolada

Cuando surge una nueva y potente tecnología, los gobiernos suelen regularla en aras de la seguridad. Con la IA, todos podemos ver que es necesario regularla para evitar daños. Pero los gobiernos han actuado con mucha lentitud.

He aquí algunos de los mayores riesgos que plantea la inteligencia artificial no regulada en la Internet actual:

Difusión de información errónea

Los generadores de texto, audio y vídeo de IA pueden producir rápidamente contenidos falsos a gran escala. El sistema de IA Chat GPT-4 puede generar artículos de noticias, ensayos, publicaciones en redes sociales y mucho más que a los humanos les costaría identificar como falsos.

La desinformación generada por IA es mucho más difícil de detectar que las noticias falsas escritas por humanos y los deepfakes. Esto podría agravar significativamente la crisis de desinformación en Internet.

¿Por qué es importante? Porque la desinformación provoca profundas divisiones sociales. Hace que la gente demonice a quienes son diferentes de ellos o tienen creencias distintas. Una sociedad pacífica no puede durar si las divisiones sociales se hacen demasiado profundas para que la gente pueda comunicarse. En el peor de los casos, la demonización generalizada de los "enemigos" puede provocar asesinatos o guerras.

Violación de la privacidad de los datos

La mayoría de los sistemas de IA necesitan grandes cantidades de datos para entrenarse a responder a las instrucciones y tomar decisiones. Las aplicaciones de IA suelen recopilar datos sin consentimiento, incluida información personal sensible.

Durante muchos años, no ha habido supervisión ni rendición de cuentas sobre la forma en que las empresas tecnológicas recopilan, analizan y comparten los datos de los usuarios para potenciar sus herramientas de IA. Esta falta de regulación significa que puedes estar bajo vigilancia o sufrir otras invasiones de tu privacidad.

 

Sesgo algorítmico

La forma en que una aplicación de IA utiliza los datos puede dar lugar a sesgos raciales o basados en los ingresos. Por ejemplo, el sesgo algorítmico ha causado discriminación en las prácticas sanitarias [6].

El sesgo en la forma en que la IA toma decisiones puede ser difícil de detectar. Si un agente hipotecario de IA le deniega una hipoteca o le hace pagar un tipo de interés por las nubes, a menudo no tendrá forma de saber por qué. Puede que la decisión ya no sea tan simple como una calificación crediticia.

Una decisión de la IA puede basarse en un análisis de datos que pretende predecir lo que suele hacer "la gente como tú". Este análisis puede no tener en cuenta tus propios méritos o tu historial personal.

Amenazas para la ciberseguridad

La IA puede utilizarse para llevar a cabo ataques de ingeniería social altamente selectivos y personalizados, incluidos el phishing y el fraude.

Los generadores de texto de IA también pueden dar lugar a nuevos tipos de malware y ciberataques.

Las capacidades de la IA abren la puerta a amenazas en línea antes imposibles, como la desinformación, la privacidad, la parcialidad y la ciberseguridad.

Entonces, ¿qué se puede hacer para aprovechar las ventajas de la IA y, al mismo tiempo, minimizar de forma responsable sus riesgos?

 

Maneras de mantenerse seguro en una Internet impulsada por la IA

He aquí algunas formas de protegerse de los riesgos de la IA mientras se navega por Internet.

• Sé escéptico sobre la veracidad de los contenidos online. Comprueba las fuentes antes de aceptar nada de lo que leas como un hecho. Y ten especial cuidado con cualquier artículo o post que parezca diseñado para provocar indignación o miedo.
• Utilice la configuración de privacidad, los bloqueadores de anuncios y otras herramientas para limitar la cantidad de datos que se recopilan en línea. Sé prudente con los datos que compartes.
• Si quiere ser precavido al máximo, no haga negocios importantes por Internet. Algunas personas no hacen compras por Internet y optan por hacer la mayor parte de sus negocios en persona. Pero, siendo realistas, hoy en día es difícil llevar una vida offline. Muchos puestos de trabajo, bancos y oficinas gubernamentales ya no aceptan solicitudes en papel.
• No acepte anuncios personalizados, recomendaciones y otros servicios basados en sus datos siempre que sea posible. Desactiva los anuncios personalizados en plataformas como Facebook.
• Tome precauciones estándar de ciberseguridad, como el uso de contraseñas únicas y seguras y autenticación multifactor para proteger sus cuentas.
• Aprende a detectar las señales que a menudo revelan información errónea generada por IA y cuentas falsas. Si no lo sabes, habla con un amigo que sí lo sepa y pídele que dedique unos minutos a mostrarte cómo puede engañarte la IA.
• No confíe exclusivamente en las herramientas de IA para tareas críticas como el diagnóstico médico y la selección de candidatos a un puesto de trabajo. Son ámbitos en los que los errores pueden perjudicar gravemente a las personas.
• Manténgase informado sobre los últimos avances y debates en torno a la seguridad de la IA, los daños potenciales y la supervisión eficaz. La tecnología avanza tan rápido que todos los meses hay noticias importantes. Preste especial atención a las nuevas herramientas en línea.

Cómo apoyar una IA más segura y responsable

Para que la IA sea más segura, es necesario que actúen tres grupos: el gobierno, las empresas tecnológicas y los ciudadanos como usted.

He aquí los tipos de políticas que el gobierno podría aplicar para que la IA fuera menos peligrosa. Si crees que estas salvaguardias ayudarían, puedes votar a representantes que se comprometan con estas políticas.

• Desarrollar leyes y normativas claras para el desarrollo y uso éticos de los sistemas de IA. Exigir pruebas de sesgo y daños potenciales antes de lanzar el software.
• Exigir total transparencia sobre qué datos se recopilan, cómo se utilizan para entrenar modelos de IA y cómo toman decisiones esos modelos.
• Crear grupos de supervisión fuertes que apoyen la rendición de cuentas cuando se produzcan daños. Los usuarios deben tener a quién recurrir cuando las plataformas de IA vulneren sus derechos.
• Apoyar la formación ética obligatoria para todos los desarrolladores, usuarios y estudiantes de IA en la escuela.
• Dar prioridad a la previsión de repercusiones sociales y económicas más amplias. Por ejemplo, ¿qué pasaría si la IA dejara sin trabajo al diez por ciento de la población activa de Estados Unidos en los próximos cinco años? ¿Cómo afrontarlo para evitar la depresión económica y el caos social?
• Promover la inversión en técnicas de IA fiables, como el aprendizaje automático que preserva la privacidad y los sistemas que pueden explicar sus fundamentos y decisiones a los usuarios.

 

Protegerse y proteger a los demás en un mundo impulsado por la IA

La IA tiene un enorme potencial positivo, como han señalado muchos expertos [7].

Pero como dijo el profesor del MIT Daron Asomuglu en una conferencia en 2023, "Mientras la información [de la IA] pueda utilizarse sin restricciones, será antidemocrática y provocará desigualdades"[8].

En otras palabras, la IA hará que el mundo sea menos libre y menos igualitario a menos que todos comprendamos los riesgos. La IA no regulada tenderá a concentrar el poder en manos de unos pocos y a perjudicar a la mayoría.

El primer paso que puede dar es comprender los riesgos inmediatos que puede presentarle la IA en Internet y cómo minimizarlos.

El segundo paso es ser un ciudadano digital comprometido, manteniéndose informado y apoyando a los líderes que tomarán medidas para mantener la IA segura y beneficiosa.

Cómo conseguir un proveedor de Internet seguro

Una forma importante de protegerte es asegurarte de que tu conexión a Internet y tu router son de alta calidad y cuentan con seguridad avanzada.

Consulte los principales proveedores de Internet cerca de ti introduciendo su código postal. Estos proveedores ofrecen el tipo de protocolos de ciberseguridad que serán necesarios para proteger tu red doméstica en el futuro.

 

 

Fuentes

[1] Forbes.com. "Un breve Historia de ChatGPT".

[2] Developers.Google.com. "Introducción a los grandes modelos lingüísticos".

[3] TechnologyReview.com. "Cómo el texto generado por IA está envenenando Internet".

[4] UMDearborn.edu. "Explicación del misterioso problema de la caja negra de la IA".

[5] Medium.com. "Avance de la inteligencia artificial en el lenguaje de las ballenas".

[6] NIH.gov. "Discriminación algorítmica en la atención sanitaria".

[7] Brookings.edu. "Cómo la Inteligencia Artificial está transformando el mundo".

[8] MIT.edu. "¿Quién se beneficiará de la IA?"

 

 

 

 

 

Entradas relacionadas