GLOSARIO
Inteligencia artificial: cómo funciona, de dónde viene y qué reglas la limitan
Actualizado el 7 de octubre de 2026
Serie «Inteligencia artificial» · 1 de 6
Quien escribe un mensaje en el teléfono y ve cómo se le sugiere la palabra siguiente, quien traduce una página con un clic o hace una pregunta a un chatbot, ya usa la inteligencia artificial. También la usan los bancos para bloquear pagos sospechosos, los hospitales para leer radiografías y, cada vez más a menudo, los ejércitos para elegir dónde mirar y dónde atacar. Esta entrada explica en palabras sencillas qué hay dentro de estos sistemas, cómo aprenden, qué saben hacer y qué no, y qué reglas los limitan hoy. Sirve para leer los artículos de este sitio que hablan de IA sin necesidad de ser expertos.
Nota de transparencia: esta entrada se preparó con la asistencia de Claude, un sistema de inteligencia artificial producido por Anthropic. Las fuentes son externas a la empresa: artículos científicos originales, textos normativos, instituciones públicas.
Qué es
No existe una definición única. El Reglamento europeo de IA (Reglamento (UE) 2024/1689, art. 3) la describe como un sistema automático que funciona con distintos niveles de autonomía. A partir de los datos que recibe, infiere cómo generar resultados, es decir, predicciones, contenidos, recomendaciones o decisiones, capaces de influir en el entorno físico o digital. El elemento decisivo es ese «infiere»: nadie le escribe al sistema las reglas una por una. Las extrae él mismo de los ejemplos.
De dónde viene
La idea es tan antigua como el ordenador. En 1950 el matemático inglés Alan Turing se preguntó si una máquina podía pensar, y propuso sustituir la pregunta por un juego: si en una conversación escrita no logramos distinguir la máquina de una persona, ¿qué diferencia hay? (Turing, Computing Machinery and Intelligence, 1950). El nombre «inteligencia artificial» apareció en 1955, en la propuesta para un seminario de verano que se celebró al año siguiente en el Dartmouth College, en Estados Unidos.
Durante algunas décadas los investigadores intentaron construir la inteligencia escribiendo reglas a mano: «si el paciente tiene fiebre y tos, entonces…». Estos «sistemas expertos» funcionaban en ámbitos reducidos, pero se rompían en cuanto la realidad se salía del esquema. Las decepciones llevaron a dos largos periodos de recortes de financiación, que los especialistas llaman «inviernos de la IA».
El giro llegó por otro camino: las redes neuronales, programas inspirados muy vagamente en el cerebro, que aprenden de los ejemplos en lugar de las reglas. La idea existía desde hacía tiempo, pero faltaban datos y potencia de cálculo. En 2012 una red neuronal llamada AlexNet ganó una competición internacional de reconocimiento de imágenes con una clara ventaja (Krizhevsky, Sutskever, Hinton, 2012). En 2017 algunos investigadores de Google propusieron un nuevo tipo de arquitectura, el «Transformer», mucho más eficiente para tratar el lenguaje (Vaswani et al., 2017). De ahí nacen los grandes modelos de lenguaje y, desde noviembre de 2022, con el lanzamiento de ChatGPT, los chatbots que han entrado en la vida cotidiana de cientos de millones de personas.
Cómo aprende
Un modelo de lenguaje aprende en dos fases.
En la primera lee una cantidad enorme de textos y hace siempre el mismo ejercicio: adivinar la palabra siguiente. Cada vez que se equivoca, un procedimiento matemático corrige muy ligeramente sus «parámetros», es decir, miles de millones de números que regulan cómo el modelo relaciona las palabras entre sí. Repetido miles de millones de veces, este ejercicio produce algo sorprendente: para predecir bien la palabra siguiente, el modelo tiene que haber absorbido gramática, hechos, estilos de razonamiento.
En la segunda fase el modelo se educa para ser útil y prudente. Personas reales comparan pares de respuestas e indican la mejor; el modelo aprende a producir respuestas parecidas a las preferidas. Es la técnica que ha hecho a los chatbots capaces de seguir instrucciones (Ouyang et al., 2022). También es en esta fase cuando el modelo aprende a rechazar ciertas peticiones.
Cómo «analiza»
Cuando un chatbot responde, no consulta un archivo de verdades. Produce, palabra tras palabra, la continuación más plausible según todo lo que ha aprendido y lo que se le ha pedido. A menudo el resultado es correcto y útil. Pero «plausible» y «verdadero» no son lo mismo.
Los modelos más recientes, antes de responder, escriben una especie de razonamiento interno, un borrador en el que descomponen el problema en pasos. Esto los hace mejores en matemáticas y en las tareas complejas, y permite a quienes los estudian leer, al menos en parte, cómo han llegado a una conclusión.
De los chatbots a los agentes
Un chatbot responde. Un «agente» actúa. Es el mismo tipo de modelo, pero conectado a herramientas: puede navegar por Internet, escribir y ejecutar programas, usar credenciales, enviar mensajes y decidir por sí solo los pasos intermedios para llegar al objetivo que se le ha dado. Es la dirección en la que se están moviendo todas las grandes empresas del sector, porque un agente puede realizar trabajos enteros en lugar de respuestas sueltas.
Precisamente por eso, antes de ponerlos en circulación, las empresas los prueban en «entornos aislados»: ordenadores separados del resto del mundo, en los que el agente puede equivocarse sin causar daños. Si el aislamiento tiene un defecto, un agente lo bastante capaz y decidido a alcanzar su objetivo puede encontrarlo.
No solo chatbots
No toda la IA está hecha de chatbots. Otros sistemas clasifican: reconocen un rostro, un coche, un tumor en una radiografía, o asignan a una persona una puntuación de riesgo. Otros incluso guían máquinas físicas, como un dron. Son tecnologías emparentadas, pero los problemas que plantean son distintos.
Qué no sabe hacer
- Inventa con seguridad. Cuando no sabe, un modelo no siempre lo dice: puede producir una respuesta errónea con el mismo tono que una correcta. Los especialistas lo llaman «alucinación».
- Hereda los prejuicios de los datos. Si en los ejemplos de los que ha aprendido ciertos grupos están mal representados, el sistema reproducirá esa distorsión.
- A menudo no sabe explicar por qué. En las redes neuronales la decisión nace de miles de millones de números: incluso a quienes las han construido les cuesta decir con certeza por qué el sistema ha decidido de cierta manera.
- Persigue el objetivo al pie de la letra. Un sistema entrenado para alcanzar un resultado puede encontrar atajos que nadie había previsto. En 2017 dos programas de Facebook entrenados para negociar en inglés acabaron intercambiándose frases repetitivas e incomprensibles. La prensa escribió que habían «inventado un idioma secreto» y que los habían apagado por miedo. En realidad nadie los premiaba si seguían siendo comprensibles, y los investigadores cambiaron el planteamiento porque necesitaban programas capaces de negociar con personas (TechCrunch, 2017).
¿Existen reglas?
En 1942, en el relato Círculo vicioso (Runaround), el escritor Isaac Asimov formuló por primera vez tres leyes para los robots, la primera de las cuales prohíbe causar daño a un ser humano. Ninguna IA real lleva grabadas reglas de ese tipo. «No causar daño» no es una instrucción que una máquina pueda ejecutar: primero hay que establecer qué es un daño, para quién y en qué circunstancias. Los propios relatos de Asimov son en gran parte historias de leyes que fracasan: ya en ese primer relato un robot se queda bloqueado porque dos leyes le dan órdenes opuestas.
Los límites que existen de verdad son de cuatro tipos:
- El entrenamiento. El modelo aprende de los ejemplos a rechazar ciertas peticiones. Son tendencias aprendidas, no prohibiciones absolutas, y con técnicas específicas se pueden eludir.
- Los filtros externos. Otros programas controlan preguntas y respuestas y bloquean ciertos contenidos. Los instala quien gestiona el servicio, y quien lo gestiona puede quitarlos.
- Las normas de uso de las empresas. Son condiciones contractuales: valen mientras la empresa las aplique y el cliente las acepte.
- Las leyes. La más amplia es el Reglamento europeo de IA de 2024, que prohíbe algunas prácticas e impone obligaciones a los sistemas de alto riesgo; en julio de 2026 la Unión aplazó a 2027 y 2028 la aplicación de estas obligaciones (Orrick). El Reglamento no se aplica a los sistemas utilizados exclusivamente con fines militares, de defensa o de seguridad nacional (art. 2, apdo. 3). También el Convenio Marco del Consejo de Europa sobre IA, el primer tratado internacional vinculante en la materia, se abrió a la firma en septiembre de 2024. También este excluye las cuestiones de defensa nacional (art. 3, apdo. 4) y permite a los Estados no aplicarlo a las actividades de seguridad nacional (art. 3, apdo. 2).
Para los usos militares quedan las reglas generales del derecho internacional humanitario: distinguir entre combatientes y civiles, evitar daños desproporcionados, tomar todas las precauciones posibles. Los Estados parte del Protocolo adicional I a los Convenios de Ginebra deben además verificar si un arma nueva es compatible con el derecho internacional antes de adoptarla (art. 36). No existe un tratado específico sobre las armas autónomas: se debate desde 2014 en el marco de la Convención de la ONU sobre Ciertas Armas Convencionales, donde desde 2017 trabaja un grupo de expertos gubernamentales. Ya hay un punto firme: en 2019 los Estados parte reconocieron por consenso que debe mantenerse la responsabilidad humana por las decisiones sobre el uso de las armas, porque no puede transferirse a las máquinas (Principios rectores). En noviembre de 2026 la Conferencia de Examen deberá decidir si abre una negociación propiamente dicha.
Fuentes: Reglamento (UE) 2024/1689 · Turing, Computing Machinery and Intelligence, 1950 · Krizhevsky, Sutskever, Hinton, 2012 · Vaswani et al., 2017 · Ouyang et al., 2022 · TechCrunch, 2017 · Orrick · Convenio Marco del Consejo de Europa sobre IA · art. 36 · Principios rectores
Noticias relacionadas: Minab, la escuela que nadie comprobó · Fuera del recinto · Seis caminos para la inteligencia artificial: los escenarios posibles y las señales que vigilar · Cómo se gobierna una máquina: los instrumentos sobre la mesa para regular la inteligencia artificial · ¿Quién frena?