¿Es peligrosa la IA en Internet?

¿Es peligrosa la IA en Internet?

Una horda de aplicaciones impulsadas por inteligencia artificial (IA) se está multiplicando ahora en Internet.

Actualmente, la IA impulsa muchas de las servicios en línea que utilizamos todos los días. Algunas herramientas de IA son obvias, como los chatbots o los asistentes virtuales de IA. Otras herramientas de IA tienden a funcionar de manera invisible, como las recomendaciones de búsqueda o la moderación de contenido.

Si bien esta nueva ola de IA es muy prometedora, la tecnología de IA también conlleva algunos riesgos graves. Siga leyendo para obtener una descripción general de algunos peligros de Internet relacionados con la IA y como evitarlos.

Una microhistoria de la IA

Durante la última década, la inteligencia artificial se ha extendido rápidamente por el mundo digital.

La IA es exponencialmente más poderosa que hace diez años. La IA ejecuta sistemas en el sector inmobiliario, la atención médica, las ventas minoristas en línea y cualquier otra industria importante que se le ocurra.

Los sistemas de IA pueden analizar ahora cantidades inmensas de datos para encontrar patrones, hacer predicciones y generar contenido similar al humano. Grandes empresas tecnológicas como Google, Facebook, Microsoft y Amazon han invertido miles de millones en el desarrollo de herramientas de IA.

Y, por supuesto, OpenAI lanzó ChatGPT en noviembre de 2022 [1]. Este asistente de chat con modelo de lenguaje grande (LLM) fue un enorme avance en la capacidad de las máquinas para generar palabras escritas que suenan como humanas [2]. Pero, ¿será ese avance un gran salto hacia adelante o un salto al vacío hacia un mundo de Internet donde no podemos distinguir la verdad de la falsedad? [3]

IA: ¿Regalo o amenaza?

Los defensores de la IA afirman que esta tiene el potencial de transformar la medicina, la educación, el transporte y más. Creen que, con el tiempo, podríamos ver curas para casi todas las enfermedades, una educación personalizada que funcione para todos los niños y un transporte limpio y sostenible.

Pero la inteligencia artificial también plantea graves peligros, y muchos de esos peligros ahora circulan por Internet.

Los sistemas de IA avanzados requieren grandes cantidades de datos para funcionar bien. ¿Recopilará la IA sus datos? datos privados ¿Será posible que las aplicaciones de inteligencia artificial recopilen tanta información sobre usted que otros puedan influir en sus opiniones mediante manipulaciones cuidadosamente dirigidas?

La IA necesita datos

Otro riesgo de la IA es el sesgo contra ciertos grupos de personas. La complejidad de la IA hace que sea difícil saber si se están tomando decisiones sesgadas. Los expertos llaman a este tipo de aplicación de la IA una “caja negra” porque ni siquiera los desarrolladores de sistemas saben exactamente cómo toma sus decisiones la IA [4].

Un tercer gran peligro de la IA proviene de su capacidad para generar contenido. Los textos que contienen información falsa son bastante malos, pero las falsificaciones de fotografías y los vídeos deepfake son aún más dañinos.

Por último, la IA puede ser capaz de generar ciberataques sofisticados. Los cibercriminales ya son buenos engañando a la gente para que haga clic en enlaces falsos que descargan malware. La IA aumentará la capacidad de estafadores cibernéticos Para engañarte.

La IA también ayudará a los piratas informáticos a encontrar más vulnerabilidades en el software, lo que podría permitirles invadir su computadora. Peor aún, podrían derribar importantes sistemas de corporaciones o gobiernos, causando caos en la banca, la cadena de suministro o la respuesta a crisis.

Beneficios de la IA en línea

Estos son algunos de los principales beneficios de la inteligencia artificial en línea:

Experiencias de usuario más personalizadas – La IA puede analizar su comportamiento y preferencias anteriores para personalizar interfaces, contenido y recomendaciones de productos específicamente para usted. Esto puede ahorrarle tiempo y ayudarlo a encontrar rápidamente lo que necesita.

Automatización de tareas tediosas – La IA es ideal para tareas repetitivas en línea, como moderación de contenido, filtrado de spam y análisis de datos. Esto puede liberar a los humanos para realizar tareas más creativas e interpersonales.

Análisis de datos y conocimientos sofisticados – Las capacidades de reconocimiento de patrones de los algoritmos de aprendizaje automático nos permiten analizar datos a una escala nunca antes posible, lo que favorecerá nuevos descubrimientos científicos. Por ejemplo, el uso de la IA ha descubierto recientemente patrones en el lenguaje de los cachalotes que podrían permitirnos algún día entender el significado de sus chasquidos [5].

La IA puede mejorar nuestra vida digital y también aportará beneficios a nuestra vida física y a nuestra salud, pero pueden surgir riesgos importantes si el uso de estas tecnologías sigue sin control.

¿Real o robot?

Riesgos y peligros de la IA sin control

Cuando surge una nueva tecnología poderosa, los gobiernos suelen regularla para garantizar su seguridad. En el caso de la IA, todos podemos ver que es necesario regularla para evitar daños, pero los gobiernos han actuado con mucha lentitud.

Estos son algunos de los mayores riesgos que plantea la inteligencia artificial no regulada en Internet hoy en día:

Propagación de información errónea

Los generadores de texto, audio y video con inteligencia artificial pueden producir rápidamente contenido falso a gran escala. El sistema de inteligencia artificial Chat GPT-4 puede generar artículos de noticias, ensayos, publicaciones en redes sociales y más que a los humanos les resultaría difícil identificar como falsos.

La desinformación generada por inteligencia artificial es mucho más difícil de detectar que las noticias falsas y los deepfakes escritos por humanos, lo que podría empeorar significativamente la crisis de desinformación en Internet.

¿Por qué es importante? Porque la desinformación genera profundas divisiones sociales. Hace que las personas demonicen a quienes son diferentes a ellas o tienen creencias diferentes. Una sociedad pacífica no puede perdurar si las divisiones sociales se vuelven demasiado profundas para que las personas puedan comunicarse. En los peores casos, la demonización generalizada de los “enemigos” puede provocar asesinatos o guerras.

Violaciones de privacidad de datos

La mayoría de los sistemas de IA requieren grandes cantidades de datos para entrenarlos a responder a indicaciones y tomar decisiones. Las aplicaciones de IA suelen recopilar datos sin consentimiento, incluida información personal confidencial.

Durante muchos años, no ha habido supervisión ni rendición de cuentas sobre cómo las empresas tecnológicas recopilan, analizan y comparten los datos de los usuarios para potenciar sus herramientas de inteligencia artificial. Esta falta de regulación significa que usted puede estar bajo vigilancia o sufrir otras invasiones de su privacidad.

La desinformación causa conflictos

Sesgo algorítmico

La forma en que una aplicación de IA utiliza los datos puede generar sesgos raciales o basados ​​en los ingresos. Por ejemplo, el sesgo algorítmico ha provocado discriminación en las prácticas de atención médica [6].

Puede resultar difícil detectar los sesgos en la forma en que la IA toma decisiones. Si un agente hipotecario con IA le niega una hipoteca o le hace pagar una tasa de interés altísima, a menudo no tendrá forma de saber por qué. Es posible que la decisión ya no sea tan simple como una calificación crediticia.

Una decisión de IA puede basarse en un análisis de datos que pretende predecir lo que suele hacer “la gente como usted”. Este análisis puede no tener en cuenta sus propios méritos o su historial personal.

Amenazas de ciberseguridad

La IA se puede utilizar para realizar ataques de ingeniería social altamente específicos y personalizados, incluidos el phishing y el fraude.

Los generadores de texto con inteligencia artificial también pueden dar lugar a nuevos tipos de malware y ciberataques.

Las capacidades de la IA abren la puerta a amenazas en línea que antes eran imposibles, incluidas la desinformación, la privacidad, los prejuicios y la ciberseguridad.

Entonces, ¿qué se puede hacer para aprovechar los beneficios de la IA y minimizar responsablemente sus riesgos?

La IA puede ayudar a los piratas informáticos

Formas de mantenerse seguro en una Internet impulsada por la IA

Aquí hay algunas formas en las que puedes protegerte de los riesgos de la IA mientras navegas por Internet.

• Sea escéptico respecto de la veracidad del contenido en línea. Verifique las fuentes antes de aceptar cualquier cosa que lea como un hecho. Y tenga especial cuidado con cualquier artículo o publicación que parezca diseñado para generar indignación o miedo.
• Utilice configuraciones de privacidad, bloqueadores de anuncios y otras herramientas para limitar la cantidad de datos que se recopilan en línea. Sea prudente con los datos que comparte.
• Si quiere ser lo más prudente posible, no haga negocios importantes en línea. Algunas personas no hacen compras en línea y optan por hacer la mayoría de sus negocios en persona. Pero siendo realistas, la vida fuera de línea es difícil hoy en día. Muchos empleos, bancos y oficinas gubernamentales ya no aceptan solicitudes en papel.
• Siempre que sea posible, desactive los anuncios personalizados, las recomendaciones y otros servicios generados por sus datos. Desactive los anuncios personalizados en plataformas como Facebook.
• Tome precauciones estándar de ciberseguridad, como usar contraseñas únicas y seguras y autenticación multifactor para proteger sus cuentas.
• Aprende a detectar las señales que suelen revelar información errónea y cuentas falsas generadas por IA. Si no lo sabes, habla con un amigo que sí lo sepa y pídele que te dedique unos minutos a mostrarte cómo la IA puede engañarte.
• No dependa exclusivamente de herramientas de inteligencia artificial para tareas críticas como el diagnóstico médico y la selección de candidatos para un puesto de trabajo. Se trata de áreas en las que los errores pueden perjudicar gravemente a las personas.
• Manténgase informado sobre los últimos avances y debates en torno a la seguridad de la IA, los posibles daños y la supervisión eficaz. La tecnología avanza tan rápido que todos los meses hay noticias importantes. Preste especial atención a las nuevas herramientas en línea.

Cómo puedes apoyar una IA más segura y responsable

Para que la IA sea más segura, tres grupos deben tomar medidas: el gobierno, las empresas tecnológicas y miembros del público como usted.

A continuación se indican los tipos de políticas que el gobierno podría implementar para que la IA sea menos peligrosa. Si cree que estas salvaguardas serían útiles, puede votar por representantes que se comprometan con estas políticas.

• Desarrollar leyes y normas claras para el desarrollo y uso ético de los sistemas de IA. Exigir pruebas para detectar sesgos y posibles daños antes de lanzar el software.
• Exigir transparencia total sobre qué datos se recopilan, cómo se utilizan para entrenar modelos de IA y cómo esos modelos toman decisiones.
• Crear grupos de supervisión sólidos para respaldar la rendición de cuentas cuando se produzcan daños. Los usuarios deberían tener un lugar al que recurrir cuando las plataformas de IA violen sus derechos.
• Apoyar la capacitación ética obligatoria para todos los desarrolladores, usuarios y estudiantes de IA en las escuelas.
• Priorizar la reflexión sobre las repercusiones sociales y económicas más amplias. Por ejemplo, ¿qué ocurriría si la IA dejara sin trabajo al diez por ciento de la fuerza laboral estadounidense en los próximos cinco años? ¿Cómo podemos afrontarlo para evitar la depresión económica y el caos social?
• Promover la inversión en técnicas de IA confiables, como el aprendizaje automático que preserva la privacidad y sistemas que puedan explicar sus fundamentos y decisiones a los usuarios.

Manténgase informado sobre la IA

Cómo protegerse a sí mismo y a los demás en un mundo impulsado por la IA

La IA tiene un enorme potencial positivo, como han señalado muchos expertos [7].

Pero, como dijo el profesor del MIT Daron Asomuglu en una conferencia de 2023, “mientras la información [de la IA] pueda usarse sin restricciones, será antidemocrático y generará desigualdad”[8].

En otras palabras, la IA hará que el mundo sea menos libre y menos igualitario a menos que todos entendamos los riesgos. La IA no regulada tenderá a concentrar el poder en manos de unos pocos y perjudicará a la mayoría.

El primer paso que puede tomar es comprender los riesgos inmediatos que la IA puede presentar en Internet y cómo minimizar ese riesgo.

El segundo paso es ser un ciudadano digital comprometido, mantenerse informado y apoyar a los líderes que tomarán medidas para mantener la IA segura y beneficiosa.

Conseguir un proveedor de Internet seguro

Una forma importante de protegerse es asegurarse de que su conexión a Internet y su Router Son de alta calidad y cuentan con seguridad avanzada.

Consulte el Los mejores proveedores de Internet cerca de ti por Ingresando su código postalEstos proveedores ofrecen el tipo de protocolos de ciberseguridad que serán necesarios para proteger su red doméstica en el futuro.

Tenga cuidado en línea

Fuentes

[ 1 ] Forbes.com. “Una breve historia de ChatGPT”.

[ 2 ] Developers.Google.com. “Introducción a los modelos de lenguaje de gran tamaño”.

[ 3 ] TechnologyReview.com. “Cómo el texto generado por inteligencia artificial está envenenando Internet”.

[ 4 ] UMDearborn.edu. “El misterioso problema de la caja negra de la IA explicado”.

[ 5 ] Medium.com. “Un gran avance en la inteligencia artificial para el lenguaje de las ballenas”.

[ 6 ] NIH.gov. “Discriminación algorítmica en la atención médica”.

[ 7 ] Brookings.edu. “Cómo la inteligencia artificial está transformando el mundo”.

[ 8 ] MIT.edu. “¿Quién se beneficiará de la IA?”