STRATEGIAS
"El mundo peligra. Y no sólo por la IA o las armas biológicas, sino por una serie de crisis interconectadas. Nos acercamos a un umbral donde nuestra sabiduría debe crecer al mismo ritmo que nuestra capacidad para afectar al mundo o enfrentaremos las consecuencias.
En mi tiempo en la empresa he visto repetidamente lo difícil que es que nuestros valores rijan a nuestras acciones. Lo he visto en mí mismo y en la organización, donde constantemente enfrentamos presiones para dejar a un lado lo que más importa".
Otra ominosa advertencia sobre la IA.
Y no proviene de cualquiera.
Es apenas un párrafo de la claridosa carta de renuncia de Mrinank Sharma, el jefe de seguridad de Anthropic, una de las empresas más relevantes en la IA.
Sharma renunció a fama y dinero (ganaba un millón de dólares, más bonos, al año) por escuchar a su conciencia.
No se necesita ser adivino para entender cuáles son esas presiones. Hombre, aquí hemos hablado extensamente de estas.
Básicamente es la carrera desenfrenada de un puñado de empresas por ver quién llega primero a la Inteligencia Artificial General para así capturar las valuaciones billonarias más impresionantes.
Y dije valuaciones a propósito, porque ni siquiera son utilidades, pues estas empresas hoy pierden lana a raudales. Valores de papel que en algún momento se convertirían en utilidades para el ganador.
El problemita radica en lo que advierte Sharma: el "ganador" podría llegar a ser el más rico en el cementerio.
Es cierto, nuestra sabiduría no crece al mismo ritmo que nuestra capacidad para alterar al mundo.
¿Sabes cuál es la ironía máxima?
Dario Amodei, el CEO de Anthropic, es una de las voces que más ha advertido sobre los peligros de la IA. De hecho, hace apenas unas semanas escribió un largo ensayo sobre el tema titulado "La adolescencia de la tecnología", donde advierte que tan pronto como el año entrante, la IA llegará a un nivel de "un país de genios en un centro de datos".
Esto conlleva 5 graves amenazas:
Amodei, que por cierto es el CEO de una empresa de IA que más exige una mayor regulación a su industria, propone soluciones como leyes y reglas internas, diagnósticos precisos sobre funcionamiento y toma de decisiones de la IA, defensas físicas, técnicas y políticas, y alianzas internacionales para regular la carrera desenfrenada.
A pesar de los riesgos, don Dario cree que la "humanidad posee la fuerza necesaria para superar esta prueba", aunque advierte también que "habrá que incrementar los esfuerzos para lograrlo".
Excelente, pero aquí va una humilde sugerencia: ¡empiece en casa!
Porque francamente no da mucha esperanza que su jefe de seguridad renuncie porque teme que "los valores no rijan a las acciones".
En mexicano: de lengua me como un taco.
Empiece por Anthropic, que por cierto ya contribuye al apocalipsis laboral con el reciente lanzamiento de una adición para análisis legal a "Claude Cowork", mismo que devastó a grandes empresas de software que han perdido 2 billones (millones de millones) de dólares en valor de mercado.
No se haga, Mr. Amodei, Anthropic está bien metida en la carrera al cementerio. Literalmente hace apenas unos días levantó 30,000 millones de dólares a una valuación de 380,000 milloncitos de billetes verdes.
Regreso a Mrinank Sharma, que en su carta de renuncia dice que se dedicará, entre otras cosas, a escribir poesía.
Cierro, pues, con un versito:
Yace aquí la raza humana
que por jugar con lo desconocido
se despertó una mañana
con la novedad de que se había extinguido.
Más nos vale evitar este epitafio.
Más nos vale que nuestra sabiduría retome la ventaja.
En pocas palabras...
"Los años que vienen serán imposiblemente difíciles".
Dario Amodei
