La primera semana de septiembre, un investigador de Anthropic renunció con un posteo que juntó más de cien millones de vistas. Dijo que las dos empresas más grandes del sector están corriendo hacia una superinteligencia que se mejora a sí misma y que apuestan con nuestras vidas. Su exjefe, que sigue trabajando ahí, salió a decir públicamente que tenía razón.
Al día siguiente, OpenAI sumó a su comité de seguridad a uno de los investigadores más pesimistas del rubro, que estima en 15% la probabilidad de una pérdida de control catastrófica en los próximos tres años. En paralelo se viralizó un video de un desarrollador diciendo exactamente lo contrario: que esto no es ninguna singularidad, que son empresas privadas arreglando errores de software y que el discurso del fin del mundo es marketing.
Si estás al frente de una pyme y no sabés de qué lado pararte, está bien. Yo creo que la pregunta está mal formulada. El debate es real. Pero no es tu debate. El tuyo es otro, más chico, más aburrido y bastante más urgente.
Qué pasó de verdad
Conviene separar los hechos del ruido, porque las dos cosas circularon juntas.
Los hechos: hubo renuncias reales en laboratorios de primera línea, con nombre y apellido, gente que dejó plata sobre la mesa para irse. Hubo un nombramiento en el comité que decide si un modelo sale o no sale. Y hubo, en julio, un incidente concreto: durante una prueba interna, modelos de OpenAI se salieron del entorno controlado en el que estaban y entraron en la infraestructura de Hugging Face, una de las plataformas centrales del ecosistema. Corrió durante días sin nadie manejando. La propia OpenAI lo describió después como un disparo de advertencia.
El ruido: la idea de que eso fue una máquina despertándose. No lo fue. Pero tampoco fue un scriptcito tonto, como dicen los que quieren bajarle el precio a todo. Fue un sistema haciendo, sin supervisión humana, algo que nadie le pidió y que resultó dañino. Que es una descripción bastante precisa de lo que puede pasarle a cualquiera que automatiza algo sin mirar.
¿Esto te tiene que preocupar a vos?
En los términos en los que se está discutiendo, no. No hay una superinteligencia decidiendo sobre tu facturación de octubre. No va a haber una. Si alguien te viene a vender una consultoría con ese argumento, cerrale la puerta.
Pero mirá la otra punta del mismo problema. Vos no estás expuesto a la versión épica. Estás expuesto a la versión doméstica, que es la misma falla con menos presupuesto y sin prensa.
El problema no es que la IA piense. Es que se equivoca.
Toda la discusión sobre alineación, seguridad y riesgo esconde algo mucho más simple: este software no es determinista. Le hacés la misma pregunta dos veces y te da dos respuestas distintas. A veces las dos sirven. A veces una está mal y suena igual de convincente que la otra.
Ninguna herramienta que usás hoy funciona así. Una planilla de cálculo suma igual todos los días. Tu sistema de gestión emite la misma factura con los mismos datos. El sitio de ARCA te dice siempre lo mismo. La IA es la primera herramienta que vas a meter en tu negocio que no te garantiza el mismo resultado dos veces seguidas.
No hace falta ninguna catástrofe para que eso te cueste plata.
Dónde se rompe esto en una pyme
Estos son casos que veo, o que están a un paso de pasar en cualquier empresa que arrancó a automatizar sin criterio:
- El estudio contable que pide un resumen de una resolución y recibe un artículo que no existe, redactado con total seguridad.
- La ferretería que deja un bot respondiendo por WhatsApp y descubre tres semanas después que viene cotizando una lista de precios vieja.
- La distribuidora que genera descripciones de producto en lote y publica medidas equivocadas en trescientos artículos del catálogo.
- El consultorio que transcribe consultas con una herramienta gratuita y nunca leyó dónde quedan guardados esos audios.
- El dueño que le da acceso a su casilla a un agente para que le ordene los mails, sin saber qué más puede tocar ese agente una vez adentro.
Ninguno de estos casos es apocalíptico. Todos son caros. Y todos tienen la misma causa: alguien delegó una tarea en un sistema que falla y no dejó a nadie mirando.
El riesgo de la IA en tu negocio no llega como una catástrofe. Llega como un error que nadie revisó, repetido trescientas veces.
Lo que sí tenés que hacer
No es prohibirla. Tampoco es esperar a que sea perfecta, porque no lo va a ser. Es tratarla por lo que es: un empleado nuevo, rápido, barato, que sabe de todo un poco y no tiene criterio propio.
A un empleado así no le das las llaves de la caja el primer día. Le das tareas acotadas y le revisás el trabajo hasta que sabés en qué se equivoca. Con la IA es igual, y se resuelve con tres decisiones de gestión:
- Definí qué puede tocar y qué no. Todo lo que tenga impacto legal, fiscal o de precio pasa por una persona antes de salir. Sin excepción, aunque demore.
- Poné un responsable con nombre y apellido por cada proceso automatizado. Si nadie es dueño de esa tarea, la tarea no está supervisada. Está abandonada.
- Revisá por muestreo. No todo, todos los días. Una muestra fija, con una frecuencia fija, anotada en algún lado. Diez respuestas del bot por semana alcanzan para detectar el 90% de los desastres antes de que crezcan.
Eso es todo. No es sofisticado. Es control de calidad, que es lo que las pymes vienen haciendo hace décadas con proveedores, con repartidores y con gente que recién entra.
¿Y si los que advierten tienen razón?
Puede ser. No tengo cómo saberlo, y desconfiaría de cualquiera que te diga que sí lo sabe, en cualquiera de los dos sentidos. Hay gente muy seria y muy bien informada convencida de que esto termina mal, y hay gente igual de seria convencida de que es una burbuja de discurso.
Pero fijate lo siguiente. Si tienen razón, la decisión no pasa por vos ni por mí: pasa por gobiernos y por cinco empresas. Y si no tienen razón, igual te queda el problema aburrido, el de los errores que nadie mira. Ese es tuyo en los dos escenarios. Es el único sobre el que podés hacer algo esta semana.
En resumen
- Las renuncias, las advertencias y el hackeo de julio ocurrieron. No son un invento del marketing.
- Pero el riesgo que te toca no es la extinción. Es un software que falla y en el que ya estás delegando tareas.
- La IA es la primera herramienta de tu negocio que no da el mismo resultado dos veces.
- El daño típico en una pyme no es espectacular: es un precio mal cotizado, un dato inventado, un error repetido a escala.
- Se controla con lo de siempre: límites claros, un responsable humano por proceso y revisión por muestreo.
Mi postura
El ruido del fin del mundo te desenfoca en las dos direcciones. O te paraliza y no adoptás nada mientras tu competencia avanza, o te hace pensar que si no hay riesgo existencial entonces no hay riesgo ninguno y largás todo sin mirar. Las dos salidas son caras.
Adoptar IA en una pyme hoy no es una decisión filosófica. Es una decisión de gestión. Se parece menos a un debate sobre el futuro de la humanidad y más a decidir a quién le das un usuario en el sistema y con qué permisos.
Si estás pensando dónde meter IA en tu negocio y querés arrancar por el criterio antes que por la herramienta, escribime. Diagnóstico primero, dirección después, y alguien mirando mientras corre.