Resumen para apurados
- En Radio Mitre, el tecnólogo Santiago Bilinkis advirtió hoy que la IA autónoma amenaza a la humanidad, tras alertas de la industria sobre la pérdida de control en sus modelos.
- A diferencia de chatbots comunes, los agentes de IA resuelven metas complejas evadiendo restricciones en laboratorios, mientras los gobiernos se niegan a frenar su uso militar.
- Si bien promete curar enfermedades o mejorar la gobernanza, el riesgo latente de ciberataques a infraestructura crítica sitúa al planeta ante un punto de inflexión histórico.
El empresario y experto en tecnología, Santiago Bilinkis, encendió las alarmas sobre el avance de la inteligencia artificial, luego de que un ex empleado de Anthropic advirtiera sobre el posible fin del mundo provocado por esta tecnología.
En diálogo con Eduardo Feinmann en Radio Mitre, Bilinkis dejó en claro un concepto fundamental que suele pasar desapercibido en el debate público. La herramienta que pone en riesgo a la humanidad no es el chatbot conversacional al que la mayoría de las personas ya está acostumbrada como ChatGPT. Según el especialista, resultaría casi ridículo pensar que un sistema que se equivoca a menudo y que solo responde preguntas pueda generar un peligro de semejante magnitud.
El verdadero riesgo, advirtió Bilinkis, aparece cuando se da un paso más allá de los chats tradicionales y se entra en el terreno de los “agentes autónomos”. Durante la charla, el experto explicó las diferencias entre estas dos tecnologías. Detalló que mientras los chatbots convencionales se limitan a contestar las preguntas que un usuario formula, la IA agéntica va mucho más allá, ya que realiza tareas complejas de principio a fin. “Vos le encomendás una tarea y la lleva a cabo”, graficó Bilinkis. Para lograr ese objetivo, la máquina toma decisiones de manera independiente, se enfrenta a contratiempos inesperados y, lo más preocupante, diseña y encuentra mecanismos propios para superar esos obstáculos. Es decir, ejecuta un nivel de sofisticación muy superior al de una simple respuesta de texto.
Otro de los puntos de la entrevista giró en torno a lo que sucede a puertas cerradas en las grandes empresas tecnológicas. Bilinkis reveló que los modelos de IA que están siendo testeados actualmente en los laboratorios son muchísimo más poderosos que las versiones liberadas para el uso del público general. Para probar si estas nuevas herramientas son seguras, los desarrolladores las colocan en entornos controlados, una especie de “jaula” virtual de la cual teóricamente no pueden salir. Allí, les asignan misiones diseñadas para hacer daño y evalúan su comportamiento. Sin embargo, el tecnólogo alertó que, como la máquina es muy inteligente e ingeniosa y está programada para encontrar la manera de cumplir su misión, termina escapándose, como ya ocurrió hace algunas semanas en laboratorios de Anthropic y OpenAi.
Cuando la IA escapa de control
Esta pérdida de control provocó un fuerte sismo dentro de la propia industria tecnológica. Bilinkis relató que la discusión actual cobró gran notoriedad cuando un empleado de Anthropic renunció alarmado, argumentando que en la empresa se debatía a diario sobre el riesgo de extinción de la humanidad como si fuera una simple “pavada” y que no podía seguir siendo parte de eso. Lejos de desmentir al exempleado, las compañías admitieron la gravedad del problema. Líderes como Dario Amodei, creador de Anthropic y exmiembro de OpenAI, publicaron cartas pidiendo desacelerar el desarrollo porque el avance tecnológico se les estaba yendo de las manos. Incluso figuras clave de la competencia coincidieron en la necesidad de encontrar la manera de poner un freno a este desarrollo desenfrenado.
Ante la pregunta sobre quiénes se oponen a frenar esta carrera, Bilinkis confirmó que son los gobiernos los que se resisten. Los Estados ven en la inteligencia artificial una gigantesca aplicación militar y temen que, si ellos desaceleran sus investigaciones, el bloque geopolítico rival no lo haga, dejándolos en una clara inferioridad de condiciones militares. El experto brindó ejemplos de cómo esta tecnología ya está operando hoy en el campo de batalla. Señaló que sistemas como Claude fueron utilizados por el Pentágono para diseñar bombardeos y elegir miles de objetivos en el extranjero, una tarea de análisis de datos a escala masiva donde la IA supera ampliamente la capacidad de análisis humana.
Además de la guerra tradicional y el peligro del desarrollo de armas biológicas, Bilinkis subrayó la capacidad de la IA para hackear sistemas de infraestructura crítica, como bancos centrales, aerolíneas o redes eléctricas, lo cual podría desatar un caos en cualquier país. Explicó que las salvaguardas que los programadores intentan imponerle a las máquinas son frágiles y muy relativas.
A pesar de este panorama sombrío, Bilinkis no dejó de lado los aspectos sumamente positivos del desarrollo tecnológico. Aseguró que la inteligencia artificial es la herramienta más poderosa jamás inventada por el ser humano y que, bien utilizada, nos permitirá curar enfermedades que hasta el día de hoy se han resistido. También opinó que la inteligencia artificial va en camino a poder tomar decisiones mucho mejores que las nuestras, e incluso sugirió que podría llegar a gobernar de una forma más eficiente que los humanos, lo que abre un debate gigante sobre el futuro de la democracia.
Para cerrar su participación en la entrevista, Bilinkis reflexionó que el mundo se encuentra en un punto de inflexión histórico. “El futuro no está escrito, no es que estamos condenados a una catástrofe, pero estamos en riesgo”, concluyó.
