El director ejecutivo de Anthropic, Dario Amodei, quiere que sepas que él no es un “doom” de la IA.
Al menos, esa es mi lectura de la “caída del micrófono” de una palabra de aproximadamente 15.000 ensayo Amodei publicó en su blog el viernes por la noche. (Intenté preguntarle al chatbot Claude de Anthropic si estaba de acuerdo, pero, lamentablemente, la publicación excedió el límite de extensión del plan gratuito).
A grandes rasgos, Amodei pinta el panorama de un mundo en el que todos los riesgos de la IA se mitigan y la tecnología ofrece prosperidad, elevación social y abundancia hasta ahora no realizadas. Afirma que esto no es para minimizar las desventajas de la IA: al principio, Amodei apunta (sin nombrar nombres) a las empresas de IA que sobrevenden y, en general, hacen propaganda de las capacidades de su tecnología. Pero se podría argumentar (y este escritor lo hace) que el ensayo se inclina demasiado hacia la dirección tecnoutopiana, haciendo afirmaciones que simplemente no están respaldadas por hechos.
Amodei cree que una “IA poderosa” llegará tan pronto como en 2026. (Por IA poderosa se refiere a una IA que es “más inteligente que un ganador del Premio Nobel” en campos como la biología y la ingeniería, y que puede realizar tareas como demostrar teoremas matemáticos sin resolver y escribir “novelas extremadamente buenas”). Esta IA, dice Amodei, podrá controlar cualquier software o hardware imaginable, incluida la maquinaria industrial, y esencialmente hará la mayoría de los trabajos que hacen los humanos hoy en día, pero mejor.
“(Esta IA) puede participar en cualquier acción, comunicación u operación remota habilitada por esta interfaz, incluyendo realizar acciones en Internet, tomar o dar instrucciones a humanos, ordenar materiales, dirigir experimentos, mirar videos, crear videos, etc. ”, escribe Amodei. “No tiene una encarnación física (aparte de vivir en la pantalla de una computadora), pero puede controlar herramientas físicas, robots o equipos de laboratorio existentes a través de una computadora; en teoría, incluso podría diseñar robots o equipos para su uso”.
Tendrían que pasar muchas cosas para llegar a ese punto. Incluso la mejor IA actual no puede “pensar” tal como la entendemos; Los modelos no razonan sino que replican patrones que han observado en sus datos de entrenamiento. Suponiendo, a los efectos del argumento de Amodei, que la industria de la IA no pronto “resolver” el pensamiento humano, ¿la robótica se pondría al día para permitir que la futura IA realice experimentos de laboratorio, fabrique sus propias herramientas, etc.? La fragilidad de los robots actuales sugiere que es una posibilidad remota.
Sin embargo, Amodei es optimista, muy optimista.
Él cree que la IA podría, en un plazo de 7 a 12 años, ayudar a tratar casi todas las enfermedades infecciosas, eliminar la mayoría de los cánceres, curar los trastornos genéticos y detener el Alzheimer en sus primeras etapas. En los próximos 5 a 10 años, Amodei cree que afecciones como el trastorno de estrés postraumático, la depresión, la esquizofrenia y la adicción se curarán con medicamentos preparados con inteligencia artificial o se prevenirán genéticamente mediante pruebas de detección de embriones (una opinión controvertida), y que también existirán fármacos desarrollados por IA que “sintonizan la función cognitiva y el estado emocional” para “conseguir que (nuestros cerebros) se comporten un poco mejor y tengan una experiencia diaria más satisfactoria”.
Si esto sucediera, Amodei espera que la esperanza de vida humana promedio se duplique a 150 años.
“Mi predicción básica es que la biología y la medicina basadas en la IA nos permitirán comprimir el progreso que los biólogos humanos habrían logrado durante los próximos 50 a 100 años en 5 a 10 años”, escribe. “Me referiré a esto como el ‘siglo XXI comprimido’: la idea de que después de que se desarrolle una IA poderosa, en unos pocos años lograremos todos los avances en biología y medicina que habríamos logrado en todo el siglo XXI”.
Esto también parece exagerado, considerando que la IA aún no ha transformado radicalmente la medicina, y puede que no lo haga hasta dentro de bastante tiempo, o nunca. Incluso si la IA lo hace reducir Debido a la mano de obra y el costo que implica llevar un medicamento a pruebas preclínicas, puede fallar en una etapa posterior, como los medicamentos diseñados por humanos. Considere que se ha demostrado que la IA implementada en la atención médica hoy en día es sesgada y riesgosa en varios sentidos, o que, por lo demás, es increíblemente difícil de implementar en entornos clínicos y de laboratorio existentes. Sugerir que todos estos problemas y más se resolverán aproximadamente dentro de una década parece, bueno… aspiracionalen una palabra.
Pero Amodei no se detiene ahí.
La IA podría resolver el hambre en el mundo, afirma. Podría cambiar el rumbo del cambio climático. Y podría transformar las economías de la mayoría de los países en desarrollo; Amodei cree que la IA puede llevar el PIB per cápita del África subsahariana (1.701 dólares en 2022) al PIB per cápita de China (12.720 dólares en 2022) en 5 a 10 años.
Se trata de pronunciamientos audaces, por decirlo suavemente, aunque probablemente resulten familiares para cualquiera que haya escuchado a los seguidores del movimiento “Singularidad”, que espera resultados similares. Hay que reconocer que Amodei reconoce que requerirían “un enorme esfuerzo en salud global, filantropía (y) promoción política”.
Amodei postula que esta promoción se realizará porque redunda en el mejor interés económico del mundo. Pero señalaré que este no ha sido el caso históricamente en un aspecto importante: muchos de los trabajadores responsables de etiquetar los conjuntos de datos utilizados para entrenar la IA reciben salarios muy por debajo del salario mínimo, mientras que sus empleadores ganan decenas de millones (o cientos de dólares). millones de dólares de los resultados.
Amodei aborda brevemente los peligros de la IA para la sociedad civil y propone que una coalición de democracias asegure la cadena de suministro de la IA y bloquee a los adversarios que pretendan utilizar la IA con fines dañinos utilizando los medios de producción de IA potentes (semiconductores, etc.). Al mismo tiempo, propone que la IA (en las manos adecuadas) podría usarse para “socavar gobiernos represivos” e incluso reducir el sesgo en el sistema legal. (La IA históricamente ha sesgos exacerbados en el sistema legal.)
“Una implementación verdaderamente madura y exitosa de la IA tiene el potencial de reducir parcialidad y ser más justo para todos”, escribe Amodei.
Entonces, si la IA se hace cargo de todos los trabajos imaginables y los hace mejor, ¿no dejará eso a los humanos en una situación económicamente difícil? Amodei admite que sí, y que en ese momento la sociedad tendría que conversar sobre “cómo debería organizarse la economía”. Pero no propone ninguna solución.
“La gente quiere una sensación de logro, incluso de competencia, y en un mundo post-IA será perfectamente posible pasar años intentando alguna tarea muy difícil con una estrategia compleja, similar a lo que la gente hace hoy cuando se embarca en una tarea. proyectos de investigación, intentar convertirse en actores de Hollywood o fundar empresas”, escribe. “No me parece que importe mucho el hecho de que (a) una IA en algún lugar pueda, en principio, hacer mejor esta tarea, y (b) que esta tarea ya no sea un elemento económicamente recompensado de una economía global”.
Amodei sugiere, para concluir, que la IA es simplemente un acelerador: que los humanos tienden naturalmente hacia el “estado de derecho, la democracia y los valores de la Ilustración”. Pero al hacerlo, ignora los numerosos costos de la IA. Se prevé que la IA tendrá (y ya tiene) un enorme impacto ambiental. Y está creando desigualdad. El economista ganador del premio Nobel Joseph Stiglitz y otros han anotado Las perturbaciones laborales causadas por la IA podrían concentrar aún más la riqueza en manos de las empresas y dejar a los trabajadores con menos poder que nunca.
Entre estas empresas se incluye Anthropic, por más que Amodei se resista a admitirlo. (Menciona a Anthropic sólo seis veces a lo largo de su ensayo). Después de todo, Anthropic es un negocio; según se informa por un valor cercano a los 40 mil millones de dólares. Y quienes se benefician de su tecnología de inteligencia artificial son, en general, corporaciones cuya única responsabilidad es aumentar los retornos para los accionistas, no mejorar la humanidad.
De hecho, el ensayo parece cínicamente oportuno, dado que se dice que Anthropic está en proceso de recaudar miles de millones de dólares. El director ejecutivo de OpenAI, Sam Altman, publicó un manifiesto tecnopotimista similar poco antes de que OpenAI cerrara una ronda de financiación de 6.500 millones de dólares.
Quizás sea una coincidencia. Por otra parte, Amodei no es un filántropo. Él, como cualquier director ejecutivo, tiene un producto que vender. Sucede que su El producto salvará al mundo (o eso quiere hacernos creer), y aquellos que creen lo contrario corren el riesgo de quedarse atrás.