La empresa de IA, con sede en Tel Aviv, capta fondos para desarrollar sistemas seguros y alineados con valores humanos.
Safe Superintelligence logra millonaria inversión en IA
Safe Superintelligence Inc., una startup de inteligencia artificial con oficinas en Tel Aviv y Palo Alto, recaudó 2 mil millones de dólares en una ronda de financiación que valora la empresa en 32 mil millones de dólares, según informó The Information. La operación, liderada por Greenoaks Capital, incluyó la participación de Andreessen Horowitz, Lightspeed Venture Partners, Alphabet y Nvidia. Esta inyección de capital se suma a los 1 mil millones de dólares obtenidos en septiembre de 2024, cuando la compañía alcanzó una valoración de 5 mil millones de dólares.
Fundada en junio de 2024 por Ilya Sutskever, exjefe científico de OpenAI, junto a Daniel Gross y Daniel Levy, la empresa se enfoca en crear inteligencia artificial superinteligente y segura. Sutskever, conocido por su rol clave en los avances de OpenAI, dejó la organización tras un conflicto interno con el CEO Sam Altman. La misión de Safe Superintelligence es desarrollar sistemas de IA que superen las capacidades humanas, pero que permanezcan alineados con los valores humanos, una visión que contrasta con la dirección comercial de otras compañías del sector.
La startup opera con un equipo reducido de aproximadamente 20 empleados distribuidos entre Tel Aviv y Silicon Valley. En Tel Aviv, la empresa expandió su presencia al arrendar oficinas en un rascacielos del centro de la ciudad y contrató a Yair Carmon, experto en aprendizaje automático de la Universidad de Tel Aviv, como uno de sus primeros ingenieros locales. Safe Superintelligence utiliza los Tensor Processing Units (TPUs) de Google Cloud, siendo uno de los principales clientes externos de esta tecnología, en lugar de los GPUs de Nvidia, ampliamente utilizados en la industria.
A pesar de su alta valoración, Safe Superintelligence no ha lanzado productos ni modelos de IA públicamente. La empresa mantiene un enfoque de investigación pura, priorizando el desarrollo de superinteligencia segura antes de comercializar cualquier tecnología. Daniel Gross, CEO de la compañía, destacó que el modelo de negocio evita presiones comerciales a corto plazo, permitiendo un avance técnico sin distracciones. Los inversores, atraídos por la reputación de Sutskever y el potencial de la startup, ven en ella una apuesta para liderar el futuro de la IA.
Datos clave sobre Safe Superintelligence Inc.
- Fundación: Junio de 2024, por Ilya Sutskever, Daniel Gross y Daniel Levy.
- Financiación: 2 mil millones de dólares en 2025, tras 1 mil millón en 2024.
- Valoración: 32 mil millones de dólares en abril de 2025.
- Sedes: Tel Aviv, Israel, y Palo Alto, California.
- Enfoque: Desarrollo de superinteligencia artificial segura.
- Inversores: Greenoaks, Andreessen Horowitz, Lightspeed, Alphabet, Nvidia.
- Tecnología: Usa TPUs de Google Cloud para investigación en IA.
Expansión y estrategia de Safe Superintelligence
La reciente ronda de financiación de Safe Superintelligence refleja la confianza de los inversores en su equipo fundador y su visión. Greenoaks Capital aportó 500 millones de dólares a la ronda, mientras que Alphabet y Nvidia reforzaron su apoyo, consolidando a la startup como un actor relevante en el ecosistema de IA. La empresa planea utilizar los fondos para adquirir mayor capacidad de cómputo y contratar talento especializado. Su proceso de selección es riguroso, priorizando candidatos con habilidades excepcionales y compromiso con la misión de la compañía.
En Tel Aviv, el crecimiento de Safe Superintelligence incluye la contratación de ingenieros locales y el establecimiento de un centro de desarrollo. La ciudad, un hub tecnológico global, ofrece acceso a talento de alto nivel, lo que fortalece la posición de la startup. La decisión de operar en Israel también responde a las raíces de Sutskever, quien emigró al país de niño antes de continuar su carrera en Canadá y Estados Unidos.
La startup se distingue por su enfoque en la seguridad de la IA, un tema crítico en la industria. A diferencia de competidores como OpenAI, Anthropic o Google DeepMind, que desarrollan productos comerciales, Safe Superintelligence se concentra exclusivamente en la investigación de superinteligencia. Sutskever expresó en la conferencia NeurIPS de diciembre de 2024 que los sistemas superinteligentes podrían volverse impredecibles y hasta reclamar derechos propios, subrayando la importancia de su trabajo.
El rápido aumento en la valoración de Safe Superintelligence, que pasó de 5 mil millones a 32 mil millones de dólares en menos de un año, destaca las dinámicas del mercado de IA. Los inversores apuestan por empresas que prometan avances fundamentales, incluso sin productos inmediatos. La participación de gigantes tecnológicos como Alphabet y Nvidia evidencia el interés estratégico en el desarrollo de infraestructura y modelos de IA de próxima generación.
Contexto del auge de la inteligencia artificial
La financiación de Safe Superintelligence se inscribe en un panorama más amplio de inversión en IA. En el segundo trimestre de 2024, las startups de IA atrajeron 24 mil millones de dólares globalmente, según Crunchbase. Empresas como OpenAI, que negocia una valoración de 300 mil millones de dólares, y Anthropic, con 60 mil millones, lideran la carrera por el dominio de la IA. Sin embargo, la irrupción de actores como DeepSeek, una startup china que ofrece modelos de IA de bajo costo, ha generado volatilidad en el mercado, afectando incluso a Nvidia.
La estrategia de Safe Superintelligence de usar TPUs de Google en lugar de GPUs refleja una apuesta por diversificar la infraestructura de IA. Google Cloud se posiciona como un proveedor clave, ampliando su alcance más allá de sus propios modelos de IA. Esta relación beneficia a Safe Superintelligence, que accede a tecnología de punta, y a Google, que consolida su presencia en el mercado de cómputo para IA.
La salida de Sutskever de OpenAI marcó un punto de inflexión para la industria. Su equipo de “Superalignment”, encargado de garantizar la seguridad de la IA, fue disuelto tras su partida. Esta decisión generó críticas y resaltó las tensiones entre la investigación pura y la comercialización en OpenAI. Safe Superintelligence busca evitar estos conflictos, manteniendo un enfoque exclusivo en la superinteligencia segura.
El interés en Safe Superintelligence también responde al prestigio de Sutskever, quien coescribió un artículo seminal sobre algoritmos de aprendizaje profundo y trabajó en Google antes de unirse a OpenAI. Su visión de un futuro con sistemas de IA más avanzados, pero controlados, atrae a inversores dispuestos a financiar proyectos de alto riesgo con potencial transformador.