Pensar con inteligencia artificial y hacerse cargo de lo que se afirma
Una inteligencia artificial propone una explicación, redacta un argumento o escribe un programa. Quien la consulta recibe algo que puede utilizar, corregir, descartar o poner a prueba. Desde afuera, estas situaciones pueden parecer semejantes: alguien formuló un pedido y obtuvo una respuesta. Sin embargo, el trabajo intelectual realizado en cada caso puede ser muy distinto.
Consideremos una escena sencilla. Una persona recibe un programa acompañado por una explicación convincente de su funcionamiento. Antes de aceptarla, revisa el código, lo ejecuta y compara el resultado con lo que esperaba obtener. Si encuentra una diferencia, vuelve sobre el problema. La conversación con la herramienta forma parte de un proceso que incluye decisiones, comprobaciones y rectificaciones.
¿Qué produjo esa persona? La respuesta exige reconstruir su intervención. Importa qué problema identificó, qué pidió, qué comprendió, qué modificó y qué razones tiene para sostener el resultado.
La participación de la IA vuelve especialmente visibles tres cuestiones que conviene distinguir: el origen de una idea, su justificación y el reconocimiento que corresponde a quienes contribuyeron a producirla. A ellas se suma una cuarta, que atraviesa las anteriores: quién responde por lo que finalmente se afirma.
El origen de una idea y las razones para aceptarla
En Experience and Prediction (1938), Hans Reichenbach distinguió el contexto de descubrimiento del contexto de justificación. Una cosa es reconstruir cómo alguien llegó efectivamente a una idea; otra, examinar las relaciones y razones que permiten sostenerla. El recorrido psicológico puede contener asociaciones, interrupciones e intuiciones que no aparecen en la exposición ordenada de un argumento.
Aplicada al trabajo con IA, esta distinción permite formular un criterio: la procedencia de una propuesta no determina, por sí sola, su verdad ni su falsedad. Haber recibido una explicación de una herramienta no basta para rechazarla, del mismo modo que haberla elaborado personalmente no basta para aceptarla.
Esto tampoco vuelve irrelevante la procedencia. Conocerla ayuda a evaluar la confianza inicial, rastrear fuentes y decidir qué comprobaciones hacen falta. Una afirmación atribuida a un documento que podemos consultar se encuentra en una situación distinta de otra cuya fuente nadie consigue identificar.
Popper defendió una separación afín entre concebir una idea y examinarla mediante pruebas críticas. En su planteamiento, el examen de una teoría empírica tampoco equivale a una demostración definitiva de su verdad.
El ejemplo del programa permite precisar el alcance de esta distinción. Ejecutarlo y obtener el resultado esperado aporta evidencia sobre su comportamiento en ciertas condiciones. Todavía queda establecer si esas condiciones representan el problema que se quiere resolver y si el resultado autoriza la conclusión propuesta.
Por eso, hacerse cargo de una idea incluye saber hasta dónde llega la prueba realizada. También incluye reconocer lo que sigue abierto.
Explorar antes de creer
La discusión sobre la evidencia tiene una historia anterior a las herramientas actuales. En The Ethics of Belief (1877), William K. Clifford sostuvo que creer con evidencia insuficiente constituye una falta. Sin embargo, admitió que en ocasiones debemos actuar sobre probabilidades: la acción y la observación de sus resultados pueden producir la evidencia que todavía falta (“it is precisely by such action, and by observation of its fruits, that evidence is got which may justify future belief”). Su exigencia no obliga a suspender toda exploración hasta disponer de certeza.
William James discutió esa exigencia en The Will to Believe (1896). Defendió la legitimidad de comprometerse con una creencia cuando la opción es viva para quien decide, forzosa e importante, y no puede resolverse sobre bases intelectuales. La restricción importa: James también reconoció que en muchas cuestiones científicas corresponde suspender el juicio y seguir buscando evidencia. Su argumento no ofrece un permiso general para rellenar con fe cualquier falta de información.
Para trabajar con una IA, esta discusión permite distinguir dos compromisos. Podemos considerar que una propuesta merece ser explorada sin considerarla todavía verdadera. Podemos invertir tiempo en una hipótesis, construir un ejemplo o ensayar una solución manteniendo abierta la posibilidad de abandonarla.
Esa disposición es necesaria para investigar. Si cada intento exigiera una garantía previa de éxito, buena parte de la exploración sería imposible. Pero la confianza que permite comenzar un trabajo tiene un alcance diferente de la evidencia que permite defender sus resultados.
Probar una idea es concederle una oportunidad. Aceptarla exige examinar qué ocurrió durante la prueba.
El trabajo que hay en una pregunta
En las tareas donde obtener una respuesta se vuelve más rápido, adquiere mayor visibilidad el trabajo necesario para formular el problema.
Gadamer sostuvo que comprender un enunciado exige comprender la pregunta a la que responde. En su ensayo «¿Qué es la verdad?», recogido en Verdad y método II, vinculó la investigación con la capacidad de advertir preguntas y abrir los presupuestos que condicionan nuestra comprensión. Una respuesta adquiere sentido dentro de una situación interrogativa.
Esa idea permite examinar una dificultad frecuente en el diálogo con una herramienta: una explicación puede ser clara y, aun así, responder a un problema diferente del que necesitamos resolver. Puede desarrollar correctamente un supuesto que debíamos haber cuestionado. Puede presentar como objetivo algo que todavía requería una decisión.
Preguntar bien implica reconocer esas diferencias. Requiere establecer qué se busca, qué información falta, qué restricciones importan y qué resultado sería relevante.
También requiere formular preguntas distintas en momentos distintos. «¿Cómo se hace?» busca un procedimiento. «¿Por qué funciona?» exige una explicación. «¿En qué condiciones falla?» examina sus límites. «¿Vale la pena hacerlo?» introduce una evaluación de fines, costos y consecuencias.
Estas preguntas no se sustituyen entre sí.
La IA puede colaborar en su formulación y proponer objeciones. Esa colaboración amplía las posibilidades de trabajo, pero deja pendiente la evaluación de su pertinencia. Una lista de preguntas útiles necesita un problema al cual aplicarse.
Algo semejante ocurre con el pedido de verificación. Preguntar «¿seguro?» puede abrir una revisión, aunque una segunda respuesta del mismo sistema también puede conservar el error de la primera. La comprobación gana fuerza cuando incorpora una fuente consultable, un cálculo revisable, una observación o una prueba cuyo resultado pueda contrariar la explicación recibida.
El valor de la pregunta se reconoce en el trabajo que permite realizar después.
Justificar ante uno mismo y ante otros
La justificación tiene una dimensión pública evidente. Presentamos razones ante colegas, estudiantes, evaluadores o personas que necesitan decidir si pueden confiar en lo que afirmamos. En ese intercambio, una convicción personal queda expuesta a preguntas que quizá su autor nunca se había formulado.
Sin embargo, la necesidad de comprobar no comienza cuando aparece un evaluador.
Quien trabaja a solas también puede necesitar saber si una explicación se sostiene. Puede revisar una cuenta sin que nadie se lo exija, ejecutar un programa antes de utilizarlo o escribir para descubrir una contradicción en su propio razonamiento. La ausencia de una audiencia no elimina la diferencia entre tener razones y haberse convencido.
En su discurso Cargo Cult Science (1974), Richard Feynman advirtió sobre la facilidad con que podemos engañarnos a nosotros mismos. También exigió comunicar los detalles capaces de debilitar una interpretación, las explicaciones alternativas y los resultados que no favorecen la teoría propuesta. Su exigencia reúne autocrítica y exposición al juicio de otros.
Por eso resulta excesivo afirmar que justificarse ante uno mismo es siempre la prueba más exigente. Podemos ser severos con nuestros errores y, al mismo tiempo, no advertir algunos de nuestros supuestos. Otra persona puede encontrar una dificultad precisamente porque no recorrió el mismo camino.
La responsabilidad personal y la crítica pública se necesitan. La primera impulsa a revisar incluso cuando nadie observa; la segunda amplía las posibilidades de detectar lo que esa revisión dejó pasar.
Tampoco se trata de comprobar personalmente todo el conocimiento que utilizamos. Una tarea razonable consiste en reconocer de qué dependemos, qué razones tenemos para confiar y qué parte del resultado requiere una revisión más directa. La exigencia debe guardar relación con el alcance de la afirmación y las consecuencias de utilizarla.
Hacerse cargo incluye poder explicar esas decisiones.
El crédito también tiene una historia
Hasta aquí, la pregunta principal fue qué razones permiten aceptar una afirmación. La atribución introduce otro problema: qué aportó cada participante y qué reconocimiento corresponde por ese aporte.
Una demostración puede ser válida aunque alguien la haya copiado. Su validez no convierte la copia en una contribución original. Del mismo modo, un trabajo elaborado con ayuda puede contener una contribución propia que merece ser identificada.
Robert K. Merton examinó esta relación dentro de la organización normativa de la ciencia. En su ensayo de 1942, conocido como The Normative Structure of Science, describió los resultados científicos como parte de un patrimonio común y otorgó al reconocimiento un lugar central entre las recompensas del investigador. En su estudio de 1957 sobre las disputas de prioridad, relacionó su intensidad con un sistema que valora y premia la originalidad.
Así se entiende que una controversia pueda continuar aun cuando sus participantes aceptan un resultado: sigue en discusión quién contribuyó a producirlo y de qué manera.
La separación analítica entre validez y crédito tampoco convierte la actividad científica en dos mundos independientes. Bourdieu describió la autoridad científica como una combinación de capacidad técnica y poder social. Latour y Woolgar estudiaron cómo la credibilidad puede convertirse en recursos que permiten continuar investigando. Estas perspectivas muestran que el reconocimiento interviene en las condiciones materiales y sociales de producción del conocimiento.
Para la discusión sobre IA, esto tiene una consecuencia: informar que se utilizó una herramienta ayuda a reconstruir el trabajo, pero todavía deja preguntas por responder.
La frase «usé IA» puede referirse a intervenciones muy distintas: corregir la redacción, sugerir bibliografía, proponer una hipótesis, escribir código o elaborar una parte sustancial del argumento. Esas diferencias importan para comprender la contribución de quien presenta el resultado.
Una explicación suficiente debería permitir reconocer qué se recibió, qué se transformó y qué se verificó. También debería conservar la atribución de las fuentes humanas que sostienen el trabajo. Haber encontrado una idea mediante una IA no elimina la necesidad de identificar su procedencia cuando esa procedencia es relevante.
La transparencia permite empezar esa reconstrucción. Su valor depende de la información que efectivamente aporta.
Poder responder por el trabajo
En una universidad, estas distinciones afectan la manera de enseñar y evaluar.
Si una actividad busca comprobar que alguien domina un procedimiento, será necesario observar su comprensión y su capacidad para aplicarlo. Si busca evaluar la formulación de un problema, habrá que examinar las decisiones que lo delimitaron. Si pretende reconocer una contribución original, deberá establecer qué agrega a lo ya conocido.
La presencia de una herramienta vuelve más importante explicitar qué se está evaluando. Un producto terminado puede aportar evidencia, pero no siempre permite reconstruir por sí solo el aprendizaje o la contribución de quien lo presenta.
En ese contexto, «uso IA, pregúntenme» puede expresar una posición intelectualmente seria. Su fuerza aparece cuando quien lo dice puede explicar el problema, reconocer las fuentes, defender sus decisiones, mostrar las comprobaciones y admitir los límites de lo que sabe.
También debe poder corregirse. La disposición a responder pierde valor si cada objeción se convierte en una amenaza que hay que neutralizar.
Pensar con IA puede incluir una distribución amplia de tareas: explorar alternativas, formular preguntas, redactar, calcular y revisar. Lo decisivo para atribuir una contribución será reconstruir esa distribución; lo decisivo para aceptar una conclusión será examinar sus razones.
Quien presenta el trabajo asume, además, un compromiso con los demás: explicar por qué considera atendible lo que afirma y permitir que se lo ponga a prueba.
La pregunta inicial —cuánto hizo la persona y cuánto hizo la herramienta— puede entonces volverse más precisa. Podemos examinar qué intervención hubo, qué conocimiento se obtuvo y qué responsabilidad se está dispuesto a asumir.
Ese examen continúa después de recibir la respuesta. Continúa cuando alguien decide comprobarla, cuando encuentra una dificultad y cuando acepta que la evidencia le obligue a cambiar de opinión.
Fuentes
- Reichenbach, Hans. Experience and Prediction: An Analysis of the Foundations and the Structure of Knowledge. Chicago: University of Chicago Press, 1938.
- Popper, Karl R. Logik der Forschung. Viena: Springer, 1934. Edición inglesa ampliada: The Logic of Scientific Discovery. Londres: Hutchinson, 1959.
- Clifford, William K. “The Ethics of Belief”. Contemporary Review 29 (1876–1877), 289–309. La cita sobre actuar según probabilidades está en la sección II, “The Weight of Authority”.
- James, William. “The Will to Believe”. The New World 5 (1896), 327–347. Recogido en The Will to Believe and Other Essays in Popular Philosophy. Nueva York: Longmans, Green, 1897.
- Gadamer, Hans-Georg. “¿Qué es la verdad?” (1957). En Verdad y método II. Salamanca: Sígueme, 1992.
- Feynman, Richard P. “Cargo Cult Science”. Discurso de graduación en Caltech, 1974. Publicado en Engineering and Science 37(7), 1974, 10–13.
- Merton, Robert K. “Science and Technology in a Democratic Order”. Journal of Legal and Political Sociology 1 (1942), 115–126. Reeditado como “The Normative Structure of Science” en The Sociology of Science. Chicago: University of Chicago Press, 1973.
- Merton, Robert K. “Priorities in Scientific Discovery: A Chapter in the Sociology of Science”. American Sociological Review 22(6), 1957, 635–659.
- Bourdieu, Pierre. “La spécificité du champ scientifique et les conditions sociales du progrès de la raison”. Sociologie et sociétés 7(1), 1975, 91–118.
- Latour, Bruno y Woolgar, Steve. Laboratory Life: The Social Construction of Scientific Facts. Beverly Hills: Sage, 1979.