Claude podría salirse de control
Revisando redes sociales pasé a mirar un post de CNN Chile que decía “Anthropic advierte que Claude avanza hacia desarrollarse a sí misma sin intervención humana y propone frenar mundialmente el desarrollo de la IA”.
El argumento de Anthropic tiene sentido, una pausa es buena idea, pero depende de si todos los laboratorios la hacen al mismo tiempo, porque si se frenan solo ellos (Anthropic) lo único que cambia es que otro tomará la delantera. Me recordó a la antigua Roma cuando Pompeyo y el Senado le dieron la orden a César de que entregara sus legiones, César dijo: “No hasta que Pompeyo entregue las suyas”.
Lo que pide Anthropic es una condición imposible de cumplir.
Una advertencia que depende de algo que no va a pasar no frena nada, nadie va a parar primero que los otros. Además, en el caso remoto que acordaran detener el avance de la IA, ¿quién controla que otro laboratorio no siga avanzando tras bambalinas? Anthropic propuso una pausa “coordinada y verificable”, pero ¿por quién? y ¿quién verifica al que verifica? y ¿quién verifica al que verifica que verifica? y ¿quién verifica al que verifica al que verifica que verifica? y así.
Entonces, ¿para quién es la advertencia realmente?
Principalmente para los inversionistas, pero no únicamente para ellos. Creo que hay gente genuinamente preocupada por el avance de esta tecnología, pero decir “lo que construimos es tan poderoso que podría escaparse de nuestras manos” también es el mejor pitch que se le puede hacer a un shareholder. Las dos cosas pueden ser ciertas al mismo tiempo o superponerse.
Claude podría salirse de control, pero mañana voy a seguir usándolo y tu también. Lo que no voy a hacer es tomar sus advertencias como si vinieran de alguien que está abogando solo por el bien de la humanidad y no con intereses de por medio.