Segunda parte de una serie de tres sobre el trabajo real dentro de la inteligencia artificial. La primera describe el galpón de la IA: fábrica e investigación; la tercera trata de la filosofía que hacen los ingenieros sin llamarla así. Se dice con frecuencia que las empresas de inteligencia artificial contratan filósofos para “hacerse las grandes preguntas”. La frase es halagadora para la filosofía y bastante imprecisa sobre lo que efectivamente ocurre. El trabajo de un filósofo dentro de la industria es menos solemne que eso, más acotado en número y, en un sentido, más interesante: consiste en convertir conceptos que la tradición discutió durante siglos en algo que un sistema pueda aprender y que un equipo técnico pueda medir.

Cinco oficios

El primero es especificar el comportamiento. Alguien tiene que escribir qué significa que un modelo sea honesto, cuándo debe negarse a una petición, cómo equilibrar la autonomía de quien pregunta con la prevención de un daño, qué hacer ante una cuestión política disputada. Ese trabajo produce documentos normativos: constituciones, especificaciones de comportamiento, directrices de carácter. El método conocido como Constitutional AI (Bai et al., 2022) convirtió literalmente un conjunto de principios escritos en señal de entrenamiento: el modelo critica y corrige sus propias respuestas a la luz de esos principios, y de esas correcciones aprende. Amanda Askell, doctora en filosofía por la Universidad de Nueva York, trabaja en Anthropic en el carácter de sus modelos. Es el ejemplo más visible del oficio: ética aplicada que termina en datos de entrenamiento. El segundo es operacionalizar conceptos. Para evaluar si un modelo miente hay que distinguir entre la mentira, el error, la alucinación, el engaño y la insinceridad estratégica. Truthful AI (Evans et al., 2021) es un buen ejemplo de este trabajo: separa con cuidado lo “veraz”, que dice solo cosas verdaderas, de lo “honesto”, que solo afirma lo que cree, y muestra por qué la diferencia importa para diseñar evaluaciones y estándares. Lo mismo vale para la manipulación, la adulación, el consentimiento o el daño. Es análisis conceptual clásico, del que se hace en cualquier seminario de filosofía analítica, con una diferencia decisiva: el producto final es una batería de pruebas. El tercero es pensar la alineación como problema normativo. Iason Gabriel, filósofo político en Google DeepMind, sostuvo en Artificial Intelligence, Values, and Alignment (2020) que “alinear un sistema con los valores humanos” no es un problema técnico con un detalle filosófico, sino una pregunta sobre qué valores, de quién y con qué legitimidad, que la técnica no puede contestar sola. Su propuesta fue buscar principios que personas con concepciones distintas del bien pudieran aceptar, en una línea cercana a Rawls. Su grupo coordinó después The Ethics of Advanced AI Assistants (2024), un informe extenso sobre lo que cambia cuando millones de personas delegan decisiones en asistentes artificiales. El cuarto, el más nuevo y el más incómodo, es el bienestar y el estatus moral de los propios modelos. En 2024 Anthropic contrató a un investigador dedicado a ese tema, y en abril de 2025 hizo público un programa de investigación sobre si los sistemas de IA podrían merecer consideración moral. El trabajo consiste en preguntarse, bajo una incertidumbre que nadie sabe cómo disipar, si un sistema podría tener experiencias moralmente relevantes y qué precauciones razonables se derivarían de esa posibilidad. Que la pregunta se tome en serio dentro de una empresa dice algo sobre el momento; que no tenga respuesta dice algo sobre el estado del conocimiento. El quinto es la gobernanza. Filósofos políticos y del derecho trabajan en reglas de despliegue, marcos de evaluación de riesgos, estándares regulatorios y atribución de responsabilidades. Es el oficio más cercano a la política pública, y el que conecta con la discusión de La ley del guardián sobre quién puede ser llamado a responder por una decisión que toma, o prepara, una máquina.

Lo que no se suele contar

Ahora lo menos cómodo. Los equipos de ética en la industria resultaron frágiles. Google despidió a Timnit Gebru a fines de 2020 y a Margaret Mitchell a comienzos de 2021, ambas codirectoras de su equipo de IA ética, en un conflicto que empezó por un artículo crítico sobre los modelos de lenguaje (Engadget). Twitter disolvió su equipo de ética, transparencia y responsabilidad del aprendizaje automático en noviembre de 2022, en los primeros despidos masivos tras la compra de Elon Musk (Khaleej Times). Microsoft eliminó su equipo de Ética y Sociedad en marzo de 2023, en plena carrera por integrar los modelos de OpenAI en sus productos (TechCrunch; Daily Nous).