Los tumultuosos primeros años de OpenAI revelados en correos electrónicos de Musk, Altman y otros
Una demanda del hombre más rico del mundo contra una de las empresas de más rápido crecimiento de todos los tiempos es necesariamente algo interesante. Pero si bien las acusaciones aún no se han probado, el caso ya ha expuesto una serie de correos electrónicos entre Elon Musk, Sam Altman y otros durante los primeros días de OpenAI. Éstos son algunos de los fragmentos más interesantes que encontramos mientras examinamos su correspondencia.
Tenga en cuenta que estos correos electrónicos fueron expuestos como parte de un intento de demostrar que OpenAI de alguna manera infringe la ley antimonopolio (una acusación francamente inverosímil). Musk también está revelando hasta cierto punto su sentimiento de traición cuando OpenAI abandonó su visión original de ser una organización sin fines de lucro con el CEO de Tesla como líder.
No cuentan toda la historia, pero siguen siendo interesantes por derecho propio.
Quizás el correo electrónico más interesante es el del ex científico jefe Ilya Sutskever explicando los escrúpulos del equipo con Musk como líder de la empresa.
La estructura actual le proporciona un camino en el que termina con un control absoluto unilateral sobre la AGI (inteligencia general artificial). Usted declaró que no desea controlar el AGI final, pero durante esta negociación nos ha demostrado que el control absoluto es extremadamente importante para usted.
Como ejemplo, usted dijo que necesitaba ser director ejecutivo de la nueva empresa para que todos supieran que usted es el que está a cargo, aunque también afirmó que odia ser director ejecutivo y que preferiría no serlo.
Por lo tanto, nos preocupa que a medida que la empresa avance genuinamente hacia AGI, usted opte por conservar su control absoluto de la empresa a pesar de la intención actual de lo contrario.
El objetivo de OpenAI es hacer que el futuro sea bueno y evitar una dictadura de AGI. Le preocupa que Demis (Hassabis, de DeepMind, propiedad de Google) pueda crear una dictadura de AGI. Nosotros también. Por lo tanto, es una mala idea crear una estructura en la que puedas convertirte en un dictador si así lo deseas, especialmente teniendo en cuenta que podemos crear alguna otra estructura que evite esta posibilidad.
No se trata exclusivamente de control corporativo; A Sutskever le preocupa que se cree una amenaza existencial de IA con una sola persona en el camino.
Sutskever también expresa su preocupación por Altman, usando palabras muy parecidas a las que usaría más tarde la junta mientras lo acusa de no ser “consistentemente sincero”:
No hemos podido confiar plenamente en sus criterios a lo largo de este proceso porque no entendemos su función de costos.
No entendemos por qué el título de CEO es tan importante para usted. Las razones que usted expuso han cambiado y es difícil entender realmente qué lo impulsa.
¿Es AGI realmente su principal motivación? ¿Cómo se conecta con sus objetivos políticos?
Dada la forma en que se desarrollaron las cosas y la dirección de Altman de la empresa hacia una posición SaaS empresarial mucho más tradicional, parece que su objetivo era más comercial que filosófico.
Un dato interesante es que ya en 2017, OpenAI estaba considerando seriamente comprar el fabricante de chips Cerebras, o fusionarse de alguna manera con él, potencialmente utilizando los recursos de Tesla de alguna manera. Como dice Sutskever:
En caso de que decidamos comprar Cerebras, mi sensación más fuerte es que lo haremos a través de Tesla.
Terminaron sin seguir adelante, aunque la razón no está en estos correos electrónicos.
Esto, por cierto, fue cuando Musk buscaba que OpenAI fuera solo una de sus muchas propiedades, y los líderes estaban abiertos a esa posibilidad. Como escribió el cofundador de OpenAI, Andrej Karpathy:
La opción más prometedora que se me ocurre, como mencioné anteriormente, sería que OpenAI se uniera a Tesla como su fuente de ingresos. (…) Si hacemos esto realmente bien, la industria del transporte es lo suficientemente grande como para que podamos aumentar la capitalización de mercado de Tesla a O(~100K) y usar esos ingresos para financiar el trabajo de IA en la escala adecuada.
Nuevamente, esto no sucedió por muchas razones que parecen claras en retrospectiva. De hecho, la capitalización de mercado de Tesla aumentó, pero el lado de la conducción autónoma, que Karpathy pretendía acelerar más tarde cuando aceptó un trabajo en Tesla, resultó más difícil de lo esperado y aún no ha contribuido significativamente a los ingresos de Tesla.
En cuanto a ganar dinero, Microsoft estuvo en la mezcla desde 2016, ofreciendo a OpenAI 60 millones de dólares en computación en Azure a cambio, entre otras cosas, de que las empresas se “evangelizaran” entre sí. A nadie parecía interesarle este tipo de quejas corporativas, y Musk escribió que le producía “náuseas”.
Al final acabaron pagando mucho más, pero sin obligación alguna de ninguna de las partes. “Valdría mucho más de 50 millones de dólares para no parecer la perra del marketing de Microsoft”, escribió Musk.
Por último, una pequeña pepita mencionada por el miembro de la junta directiva Shivon Zilis (que más tarde se convertiría en madre de tres de los hijos de Musk): el fundador de Valve, Gabe Newell, fue, además de donante del proyecto en los primeros días, en Altman y Greg Brockman. consejo asesor informal”. No está claro qué papel tuvo o tiene en el día a día allí. Le pedí a Newell un comentario.