Los peligros de la inteligencia artificial: lo que necesitas saber

¿Qué es la inteligencia artificial?

Como definición muy básica, la inteligencia artificial es un tipo de programa informático. No puede pensar, razonar ni sentir; sin embargo, se ha diseñado para que parezca que lo hace. Se le entrena para identificar patrones a través de un complejo proceso que implica vastos conjuntos de datos y rondas de retroalimentación, lo que da como resultado su capacidad para crear resultados basados en texto, completar tareas complejas e, incluso, mejorar su propio rendimiento.

Esta capacidad se denomina aprendizaje automático. Ahora bien, los programas de inteligencia artificial no aprenden igual que las personas. Se basan solo en el reconocimiento de patrones para responder a las consultas o a las órdenes, básicamente prediciendo lo que constituye un buen resultado a partir de en los datos con los que se ha entrenado.

La inteligencia artificial está diseñada para realizar tareas similares a las humanas.

¿Por qué es tan peligrosa la inteligencia artificial?

La inteligencia artificial se ha hecho cada vez más influyente y omnipresente en los últimos años. Se utiliza en todos los ámbitos, desde algoritmos de redes sociales que determinan qué anuncios y publicaciones ves hasta sistemas que ayudan a los profesionales de la salud a diagnosticar enfermedades. Pero en malas manos, la inteligencia artificial puede utilizarse indebidamente. Tiene el potencial de amplificar amenazas en línea, como el phishing, al permitir a los estafadores lanzar ataques de ingeniería social de forma más eficiente, entre otros peligros.

Las respuestas basadas en texto de la inteligencia artificial también pueden ser poco fiables porque incluso los modelos de inteligencia artificial más avanzados son propensos a generar errores conocidos como «alucinaciones». Estos errores pueden ser inocuos, como escribir mal la palabra «fresa»; sin embargo, también pueden ser graves porque las herramientas pueden generar afirmaciones completamente falsas y presentarlas como datos correctos. Sin tomar las debidas precauciones, los usuarios pueden enviar textos generados por inteligencia artificial que contengan errores en las tareas escolares o publicarlos en artículos de prensa, y causar una desinformación más generalizada.

Además, el uso de la inteligencia artificial se ha relacionado con consecuencias neuronales y de comportamiento, según un estudio reciente del MIT, y la tecnología plantea innumerables cuestiones sobre la privacidad y la ética.

¿Cuáles son los riesgos de la inteligencia artificial?

La inteligencia artificial ha introducido riesgos totalmente nuevos, mientras que otros se han agravado. El acceso a la tecnología de la inteligencia artificial ha provocado un aumento de las actividades delictivas, como la generación de deepfakes que se utilizan para estafas de suplantación de identidad. Ahora bien, dado el desarrollo vertiginoso de la inteligencia artificial, es difícil que las personas preocupadas por la seguridad, las fuerzas del orden y las empresas privadas puedan seguir el ritmo.

Riesgos para la privacidad

La preocupación por la privacidad es uno de los problemas más comunes de que plantean los expertos cuando hablan de inteligencia artificial. Estos sistemas solo son tan eficientes como los datos utilizados para entrenarlos. Y a menudo, esos datos pueden ser los tuyos, ya sea información personal o registros de las conversaciones que mantienes con las herramientas de inteligencia artificial.

Por ejemplo, ChatGPT de OpenAI guarda tus datos y el historial de conversaciones durante al menos 30 días. Además, actualmente existen muy pocas normativas sobre inteligencia artificial, tanto generales como sobre la privacidad de los datos. Esto hace que nociones distópicas como algoritmos policiales predictivos, un método de vigilancia social, sean demasiado reales en EE. UU.

Deepfakes y desinformación

Los deepfakes son vídeos o clips de voz generados por inteligencia artificial que imitan la imagen de una persona y hacen que parezca que haya dicho o hecho algo que, en realidad, nunca ha sido así. Esta tecnología puede explotarse con fines dañinos, desde difundir campañas de desinformación política o bulos hasta crear clones de voz que se utilizan en ataques de vishing. Consulta este proyecto del MIT sobre deepfakes para obtener más información sobre cómo identificarlos.

Estafas asistidas por inteligencia artificial

La tecnología de la inteligencia artificial ha abierto la puerta a ciberataques más eficientes. Los estafadores disponen de mejores herramientas para recopilar y vender tus datos, por ejemplo, o los estafadores aficionados de todo el mundo ya son capaces de escribir mensajes fraudulentos convincentes y sin errores. La Comisión Federal de Comunicaciones (FCC) alerta a los consumidores que no contesten a números desconocidos. Pronunciar un simple «Sí» a un estafador que graba tu voz podría permitirle autorizar cargos fraudulentos en tu nombre.

La inteligencia artificial puede ayudar a los estafadores a trabajar de forma más inteligente, pero esta tecnología también puede actuar en tu favor. Echa un vistazo a nuestro detector de estafas con IA, que ayuda a bloquear las estafas y a mantener tus dispositivos libres de malware.

Ataques de malware generados por inteligencia artificial

Los programas de inteligencia artificial como ChatGPT pueden utilizarse para generar algo más que texto e imágenes. También son capaces de escribir programas de malware que pueden utilizarse en ciberataques sofisticados. Los usuarios con fines malintencionados pueden utilizar indebidamente cualquier tecnología, pero la IA ha facilitado aún más la consecución de resultados peligrosos. OpenAI incluso ha admitido que sabe que esto está ocurriendo y está publicando una serie de informes que detallan cómo está mitigando las amenazas de la inteligencia artificial.

Abordar el uso subjetivo de datos de la inteligencia artificial

Como la inteligencia artificial depende de los datos para funcionar, si esos datos no son objetivos, el resultado de la inteligencia artificial tampoco lo será. Los datos deformados pueden adoptar muchas formas, ya se deban a información incompleta o defectuosa, como criterios humanos subjetivos que determinan qué datos son o no lo bastante importantes como para incluirlos. Estos tipos de datos basados en criterios subjetivos pueden alimentarse mutuamente y agravar el problema.

Además, la UNESCO afirma que solo 100 de las 7000 lenguas naturales del mundo se han utilizado para entrenar a los mejores bots de chat. Esto podría generar problemas sociales nuevos o incrementados y a una mayor desigualdad, como la injusta selección de los candidatos a puestos de trabajo.

Interactividad humana

La comunicación y las interacciones basadas en inteligencia artificial se han hecho cada vez más omnipresentes. Los usuarios recurren a la inteligencia artificial en lugar de efectuar búsquedas en línea o, incluso, solicitar tratamientos terapéuticos. Este incremento potencial de la dependencia podría comportar una disminución de la empatía y de las habilidades sociales, así como al aumento de la soledad y la pérdida del contacto humano.

También hay que tener en cuenta cuestiones de seguridad física con algunas aplicaciones o tipos de inteligencia artificial. La tecnología podría contribuir a diagnósticos médicos erróneos, fallos en la maquinaria e incluso daños directos, como cuando un robot de ajedrez rompió el dedo de un niño durante un torneo.

Responsabilidad legal

Cuando se producen este tipo de accidentes, hay pocos precedentes hasta la fecha en cuanto a la asignación de responsabilidades legales. La cuestión clave es si la inteligencia artificial es culpable. ¿O es culpa del programador, de la empresa que la ha implementado o del operario humano? En un caso concreto en el que un coche sin conductor de Uber mató a un peatón, se determinó que el conductor de pruebas era culpable.

Los peligros potenciales de la inteligencia artificial para la humanidad

A mayor escala, los sistemas de inteligencia artificial pueden suponer amenazas directas o indirectas para la humanidad y el planeta. Desde las armas autónomas hasta la destrucción del medio ambiente, pasando por el debilitamiento de la ética y las consecuencias futuras potencialmente imprevisibles.

Los dilemas éticos en la inteligencia artificial

En cuestiones de ética, la inteligencia artificial no tiene el mejor historial. Los profesores han tenido problemas con alumnos de todas las edades que utilizan la inteligencia artificial para redactar trabajos o hacer trampas en los deberes, y sin duda seguirán teniéndolos. Un estudio muestra que incluso los estudiantes de medicina utilizan cada vez más la inteligencia artificial en sus cursos. La prefieren antes que otros recursos tradicionales, como profesores, libros de texto y conferencias.

Otra cuestión ética la plantea el uso de la IA generativa en la creación de arte y de escritura creativa. Aunque mucha gente elogia la inteligencia artificial por permitir que cualquiera pueda crear arte, los modelos de inteligencia artificial se entrenan con imágenes, música y escritos creados por personas reales, a menudo sin compensación o incluso sin el consentimiento del creador.

Ejemplo de lo que puede crear el generador de imágenes con inteligencia artificial Leonardo.

En 2023, New York Times demandó a OpenAI y Microsoft (el caso está en curso) con acusaciones de haber utilizado millones de artículos sin permiso para entrenar a ChatGPT. Los creadores artísticos también han contraatacado mediante la alteración de sus obras de arte con programas diseñados para engañar o contaminar a la inteligencia artificial que intente utilizarlas.

El impacto medioambiental de la inteligencia artificial

Todo lo que se ha explicado hasta ahora son formas en que las personas han utilizado la inteligencia artificial o la han utilizado indebidamente. Sin embargo, ninguno de estas características es intrínseca a la inteligencia artificial. Toda tecnología tiene una huella medioambiental; aunque todavía se desconoce la repercusión total de la inteligencia artificial, las primeras conclusiones no parecen satisfactorias.

La inteligencia artificial requiere potentes chips informáticos que se fabrican sobre todo mediante recursos no renovables. Y como la demanda de inteligencia artificial ha aumentado, han surgido cada vez más centros de datos.

Hace falta mucha agua para refrigerar estos enormes centros de datos. Se calcula que, a escala mundial, las infraestructuras relacionadas con la inteligencia artificial pronto consumirán seis veces más agua que Dinamarca, lo que puede hacer saltar las alarmas medioambientales cuando una cuarta parte de la humanidad ya carece de acceso a agua no contaminada.

Pero no todo es pesimismo. El propio Programa de las Naciones Unidas para el Medio Ambiente utiliza inteligencia artificial para identificar cuando las instalaciones de petróleo y gas pierden gas metano. Con estos avances en la tecnología de la inteligencia artificial, existe la esperanza de que pueda ayudarnos a abordar grandes problemas como el cambio climático.

Cómo se mitigan los riesgos de la inteligencia artificial

Cuánta información. Tomémonos un respiro. No todo son riesgos. La inteligencia artificial también ofrece muchas ventajas, como automatizar tareas repetitivas, minimizar los errores humanos e identificar células cancerosas.

No depende solo de ti navegar en soledad por este mundo nuevo y desconocido. A continuación, se proporciona un resumen cómo se están mitigando los riesgos de la inteligencia artificial en distintos ámbitos de la sociedad.

• Medidas de los gobiernos: la Ley de Inteligencia Artificial de la UE entró en vigor en agosto de 2024. Esta norma establece controles sobre los sistemas de alto riesgo utilizados en ámbitos como la sanidad, el orden público, la educación o las elecciones. Además, más de 190 países han adoptado las recomendaciones no vinculantes de la UNESCO sobre el uso ético de la inteligencia artificial.

• Medidas de las empresas: el 78 % de las empresas usa inteligencia artificial. Ya están rediseñando los flujos de trabajo para implementar la inteligencia artificial y designando puestos ejecutivos en funciones críticas de gobernanza. Para mitigar eficientemente las amenazas y hacer un seguimiento del rendimiento de la inteligencia artificial, las empresas deben realizar pruebas y controles periódicos, establecer marcos de gobernanza sólidos y dar prioridad a la privacidad, la seguridad, la responsabilidad y la transparencia.

• Medidas que puedes tomar: decide por ti mismo si quieres utilizar la inteligencia artificial y aprender a utilizarla de forma responsable. Mantente al día de los últimos avances no solo de la propia tecnología, sino también en las formas en que puede perjudicarte; por ejemplo, las estafas, las infracciones de la privacidad y otros problemas de ciberseguridad.

Protege tu vida digital con Avast

A medida que la inteligencia artificial se va incorporando a nuestras vidas, está bien inquietarse por lo que sucede. Sin embargo, hagas lo que hagas, mantén el control de tu privacidad y seguridad digitales con Avast Free Antivirus. Con identificación de amenazas en tiempo real, incluido un guardián de estafas con inteligencia artificial encargado de que esta te ayude en lugar de perjudicarte, Avast Free Antivirus te cubre las espaldas. Ayuda a salvaguardar tu dispositivo y protégete contra hackers, estafas y malware de forma gratuita.