Los creadores de Claude: Anthropic advierte “riesgo existencial para la humanidad” en su prospecto de salida a la bolsa

En una inaudita jugada de honestidad corporativa, la empresa de inteligencia artificial Anthropic —creadora de Claude— presentó su esperado prospecto para salir a la bolsa revelando un escenario que sacude tanto a Wall Street como a la comunidad científica. La compañía no solo blanqueó una monumental quema de capital, sino que advirtió formalmente a sus futuros inversionistas que su propia tecnología representa un “riesgo existencial para la humanidad”. 

Según detalla Financial Times, la compañía entregó un informe sobre sus factores de riesgo donde además incluyeron el potencial de los modelos de IA cada vez más avanzados para manipular, chantajear y exhibir otros comportamientos impredecibles. También incluyeron la extrema concentración de su base de clientes. 

Anthropic también prevé destinar 518.000 millones de dólares a compromisos de nube, computación e infraestructura en los próximos años para sostener su acelerado crecimiento. En ese sentido, esperan que la compañía pueda salir a la bolsa con una valoración que supere los 2 billones de dólares.

La compañía registró pérdidas de más de 8.000 millones de dólares el año pasado a medida que disparó el gasto en potencia de cálculo, según informó Anthropic a sus inversores.  

El temor del ex investigador de Anthropic

Jacob Coxon, quien se desempeñaba como investigador especializado en el entrenamiento de nuevos modelos de IA, comunicó su renuncia advirtiendo que aquello que entrenó puede salirse de control.

Coxon utilizó acusó a Anthropic y OpenIA de actuar de manera irresponsable. “No subestimen el poder de esta tecnología. Muy pronto estos serán sistemas superhumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos sido testigos del progreso en cada uno de estos ámbitos, y este avance no se está deteniendo”, advirtió a comienzos de este mes.

“Quienes están construyendo la inteligencia artificial creen sinceramente que podría acabar con todos nosotros antes de que termine la década. Esto no es un truco publicitario. En todo caso, muchos ejecutivos e investigadores suavizan sus palabras ante la prensa para sonar sensatos, pero en privado escucho a esas mismas personas expresar temor. Ninguna otra actividad humana representa este nivel de peligro“,aseguró Coxon.