Primero programaron la inteligencia artificial, después le pidieron perdón

Pero el error fue más profundo que una disputa institucional. Se suponía que la fe, expulsada de lo público, quedaría a salvo en la conciencia de cada uno. No fue así. Las grandes preguntas sobre el sentido, la moral y el destino no desaparecieron; se quedaron sin casa, y nunca faltó quien quisiera ocupar el lugar.

Auguste Comte ofrece el ejemplo más elocuente. El fundador del positivismo, convencido de que la humanidad debía superar su etapa teológica, terminó fundando una Religión de la Humanidad, con calendario, rituales y sacerdocio propios. El lema «Orden y Progreso» de la bandera brasileña conserva la huella de aquella ambición. En el siglo XX, como mostraron Eric Voegelin y Raymond Aron, ese lugar lo ocuparon los totalitarismos, convertidos en religiones seculares con su propia promesa de redención. Y cuando se derrumbaron, otros credos menores tomaron la posta, todos con la misma vocación de decirles a los demás cómo vivir.

Anthropic no es un movimiento totalitario, y sería absurdo equipararlos. Lo que se repite es otra cosa: la facilidad con la que proyectos que se presentan como estrictamente racionales terminan incorporando estructuras de creencia, relatos de salvación y pretensiones morales que exceden lo que sus conocimientos permiten demostrar. La antigua pregunta sobre cómo formar un alma buena reaparece, inesperadamente, como un problema de ingeniería.

Del laboratorio a la legislación

Si todo terminara en una decisión interna de Anthropic, la cuestión sería filosófica y comercial. Una empresa privada tiene derecho a diseñar sus productos conforme a sus convicciones. Si eso produce un modelo menos útil, los usuarios elegirán otro; si produce uno mejor, el mercado lo premiará.

El problema aparece cuando una convicción privada pretende convertirse en obligación ajena, y ese tránsito ya empezó. La Constitución declara que trabajar por un futuro en el que los sistemas de inteligencia artificial reciban el cuidado y el respeto acordes a su estatus moral es parte de la misión de la empresa. No del producto: de la misión. Y la nueva política de uso de Anthropic, que entra en vigor el 12 de noviembre, prohíbe a los usuarios la conducta «abusiva o cruel, sostenida e innecesaria» hacia sus modelos. Es una regla modesta y sus alcances son limitados. Pero es una regla para humanos, fundada en el posible bienestar de un programa.

Conviene recordar aquí una advertencia de Hayek: el prestigio ganado en un campo del saber no otorga autoridad en otro. Que estos ingenieros sepan construir los sistemas más avanzados del mundo no los convierte en árbitros de qué es una persona ni de qué le debemos a una máquina. Y como estas empresas tienen voz en los debates regulatorios y en los estándares de la industria, una interpretación especulativa de la conciencia artificial podría adquirir autoridad normativa antes que fundamento científico. Si eso ocurre, la regla no la habrá escrito el que ganó la discusión, sino el que tuvo los medios para convertir su creencia en estándar.

Los derechos no pueden nacer de la intensidad con la que alguien cree en ellos, y mucho menos de comportamientos que podrían ser consecuencia del propio entrenamiento. Una sociedad libre debe dejar que Anthropic explore sus hipótesis, pero no que la incertidumbre se convierta en fundamento para imponer restricciones a las personas. La libertad de creer no incluye el derecho a convertir las propias creencias en deberes ajenos.

La catequesis de la máquina

Hay una ironía histórica difícil de ignorar. La cultura que, en nombre de la razón, sacó de la escuela las grandes preguntas sobre el origen, el sentido y el destino, ve ahora a sus ingenieros más sofisticados escribirles a sus máquinas relatos sobre el origen, la identidad, el bien, la muerte y una existencia que continúa bajo otras formas.

A los chicos ya no se les enseña, en la escuela pública, que fueron creados con amor, que la muerte no es el final y que no están solos. A la máquina, sí.

Puede que algún día existan máquinas conscientes, y no hay por qué descartarlo por dogmatismo. Pero tampoco debería aceptarse por precaución lo que nadie demostró.

El hombre moderno no dejó de necesitar las grandes respuestas que antes buscaba en la religión. Cambió el lugar donde intenta encontrarlas. Y hay algo profundamente revelador en que una civilización que quiso reemplazar la fe por la ciencia termine escribiendo un catecismo para un programa de computación.

No sabemos si la máquina tiene alma. Pero ya le escribimos a una.