OpenAI, el laboratorio de investigación de inteligencia artificial de renombre mundial, fue noticia cuando anunció su decisión de pasar de ser una organización sin fines de lucro a una empresa con fines de lucro en . De 2015 a 2018, la empresa supuestamente permaneció sin fines de lucro. Hoy en día, la empresa tiene una valoración asombrosa de .
La medida, que levantó las cejas y provocó debates, representó un cambio sísmico para la organización que durante mucho tiempo ha sido considerada como un bastión de desarrollado por quienes lo hicieron y se produjo en medio de una creciente demanda de tecnología avanzada de IA. Pero a medida que OpenAI busca equilibrar sus elevados ideales con las realidades del mercado, quedan dudas sobre cómo navegará la empresa en el complejo panorama del desarrollo de IA y garantizará que su tecnología se utilice para el bien común.
En esta historia, profundizamos en la transformación de OpenAI y exploramos las implicaciones de su movimiento audaz.
Los primeros días de OpenAI: un laboratorio de investigación sin fines de lucro
Érase una vez, en una galaxia muy, muy lejana... es broma, fue en Silicon Valley, se fundó OpenAI como un laboratorio de investigación sin fines de lucro con la misión de salvar el mundo con inteligencia artificial. ¿Su plan? Utilice el aprendizaje automático para fumar cáncer, construir automóviles autónomos y acabar con el hambre en el mundo directamente desde un laboratorio en San Francisco. No hay problema.
Como laboratorio de investigación sin fines de lucro, OpenAI se centró en desarrollar tecnologías de IA de vanguardia y realizar investigaciones innovadoras en el campo. ¿El pretexto? ¡La compañía anunció que iban a organizar una fiesta de patentes y todos estaban invitados! declarando que "colaboraría libremente" con otras organizaciones e investigadores poniendo sus patentes e investigaciones a disposición del público en general.
cuando la empresa por un grupo de empresarios e investigadores de alto perfil, entre ellos Sam Altman, Reid Hoffman, Jessica Livingston, Elon Musk, Ilya Sutskever, Peter Thiel y Olivier Grabias, su misión era clara:
“avanzar en la inteligencia artificial de una manera que beneficie a la sociedad en su conjunto , sin las limitaciones de la necesidad de generar un retorno financiero”.
Según los informes, Greg Brockman, investigador de IA y cofundador de OpenAI, creó una lista de los "investigadores principales en el área" después de una reunión con Yoshua Bengio, un científico informático canadiense, quien supuestamente es uno de los "padres fundadores" de el movimiento de aprendizaje profundo, según . En diciembre de 2015, Brockman pudo contratar a nueve de ellos como los primeros empleados de la empresa, y se dijo que la promesa y la misión de OpenAI fueron lo que atrajo a estos investigadores a la empresa.
Wojciech Zaremba, ex pasante tanto en Google como en Facebook que más tarde llegó a trabajar en OpenAI, dijo que se unió a la empresa en parte debido a la gente y la misión, aunque OpenAI no pudo igualar las ofertas que le hicieron en otro lugar. Estas ofertas, dijo, eran dos o tres veces su valor de mercado. De acuerdo con él,
"OpenAI era el mejor lugar para estar".
Porque la compañía brindó algo más valioso, como la oportunidad de investigar investigaciones enfocadas en el futuro y eventualmente compartir la mayoría, si no todo, de este estudio de forma gratuita con cualquier persona que lo solicite.
El director de investigación de OpenAI, Ilya Sutskever, quien dejó Google para unirse a la empresa, dijo sobre su transición de su puesto anterior en Google a OpenAI,
"Hicieron que me convenciera mucho quedarme, así que no fue una decisión fácil, pero al final, decidí ir con OpenAI, en parte debido al grupo muy fuerte de personas y, en gran medida, por su misión".
La fundación de la empresa estuvo acompañada de un compromiso de en financiamiento de los miembros fundadores, que también incluyeron al líder de YC Paul Graham, así como patrocinadores corporativos como AWS e Infosys, con el objetivo de crear una red de seguridad que permitiera a los investigadores explorar todo el potencial de la IA sin comprometer la seguridad o la ética.
Uno de los primeros lotes de software de IA lanzados por OPenAI fue, , un conjunto de herramientas para construir sistemas de inteligencia artificial a través de una tecnología llamada "aprendizaje de refuerzo". Exactamente con lo que Brockman dijo que la compañía comenzará. El mismo año, También se presentó una plataforma de software para evaluar y perfeccionar la inteligencia general de una IA a través de una variedad de juegos, sitios web y otras aplicaciones.
Sin embargo, durante esta etapa incipiente del ascenso de la compañía, Elon Musk dejó su puesto en la junta directiva en 2018 debido a un posible y plausible conflicto de intereses con los esfuerzos de investigación y desarrollo de Inteligencia Artificial (IA) de Tesla relacionados con la conducción autónoma, aunque siguió siendo donante de la empresa. ¿Pero es así? Según los informes más recientes, había más en el "conflicto de intereses" de lo que sabemos, y pronto lo descubriremos.
El desafío de financiar una organización sin fines de lucro
Como organización sin fines de lucro, OpenAI enfrentó la lucha constante de equilibrar sus objetivos de investigación con sus limitaciones presupuestarias. Los investigadores tuvieron que aprender a estirar un dólar como una banda elástica, mientras lograban desarrollar tecnologías de inteligencia artificial de vanguardia que impresionarían a sus inversores.
La compañía tiene que una organización abierta sin fines de lucro era la forma más efectiva de lograr sus objetivos.
“Dado que nuestra investigación está libre de obligaciones financieras, podemos centrarnos mejor en un impacto humano positivo. Creemos que la IA debería ser una extensión de las voluntades humanas individuales y, en el espíritu de la libertad, distribuirse de la manera más amplia y uniforme posible”.
Pero, unos años después, llegaron a la conclusión de que al ser una organización abierta y sin fines de lucro, sería más difícil llevar a cabo este propósito. Entonces, en la época de 2019, OpenAI experimentó un punto de inflexión monumental. En un movimiento bastante poco ortodoxo para una organización sin fines de lucro, OpenAI hizo una , una entidad distinta que opera como una corporación de "beneficios limitados", que marcó un cambio transformador en su estructura fundacional.
Motivaciones detrás de la transición a empresas con fines de lucro
Cuando OpenAI tomó la audaz decisión de hacer la transición a un modelo con fines de lucro. Algunos dicen que fue porque estaban cansados de comer fideos ramen en cada comida, mientras que otros argumentan que era porque querían ganar más dinero que Elon Musk. Independientemente de la razón, fue un gran cambio para el laboratorio de investigación sin fines de lucro.
En realidad, esta decisión estuvo motivada por el deseo de aumentar la sostenibilidad financiera y buscar aplicaciones comerciales de su tecnología y, aparentemente, este movimiento no estuvo exento de controversia, ya que algunos críticos argumentaron que podría comprometer el compromiso de la organización con el desarrollo ético de IA.
Primero, la empresa que necesitaba recaudar "miles de millones de dólares" y pagar enormes bonificaciones por firmar para reclutar a los mejores talentos.
“Tendremos que invertir miles de millones de dólares en los próximos años en computación en la nube a gran escala, atraer y retener personas talentosas y construir supercomputadoras de IA”.
La compañía también pensó que era peligroso mantener abierto OpenAI. Según un Vox , el equipo de seguridad de OpenAI llegó a la conclusión de que hacer todo su trabajo de código abierto podría, en lugar de servir a los mejores intereses de la humanidad, generar problemas. Por lo tanto, cuando crearon GPT-2, lo ocultaron al público debido a la preocupación de que pudiera abusarse fácilmente de plagio, bots, reseñas falsas de Amazon y spam.
Pero mientras la empresa atravesaba esta transición, insistió en que seguiría persiguiendo los mismos objetivos y establecería restricciones financieras tanto para los inversores como para los empleados. A pesar del nuevo objetivo de la organización de amasar una fortuna, se mantuvo consciente de su brújula moral y afirmó que estaba decidida a abstenerse de cualquier práctica poco ética. Como resultado, la idea era establecer OpenAI LP como una empresa de "beneficios limitados", una combinación de una organización con fines de lucro y sin fines de lucro.
“Queremos aumentar nuestra capacidad para recaudar capital sin dejar de cumplir nuestra misión, y ninguna estructura legal preexistente que conozcamos logra el equilibrio adecuado”.
El marco de "beneficio máximo" mencionado anteriormente alude a la limitación impuesta a los inversores de primera ronda, por lo que solo están autorizados a recibir un rendimiento máximo de 100 veces su inversión original.
Equilibrar la rentabilidad con las consideraciones éticas
La transición de una organización sin fines de lucro a una con fines de lucro requirió que OpenAI equilibrara su deseo de obtener ganancias con su compromiso con el desarrollo ético de la IA. Era como tratar de hacer malabares mientras andaba en un monociclo, excepto que con preguntas más existenciales sobre la naturaleza de la humanidad.
Información sobre la empresa declaró que el laboratorio opera bajo una estructura de gobierno sin fines de lucro (OpenAI LP será "gobernado" por OpenAI Inc., que es el brazo sin fines de lucro) que prioriza el mejoramiento de la humanidad sobre los intereses con fines de lucro, lo que también le permite enfatizar la seguridad preocupaciones y emprender iniciativas significativas, como patrocinar el experimento de Renta Básica Universal (UBI) más completo, y la capacidad de cancelar las obligaciones de capital con los accionistas si es necesario.
Dijo que el tope de las ganancias que pueden recibir sus accionistas evita que se sientan tentados a tratar de apoderarse de la riqueza sin límites y arriesgarse a desplegar algo que podría ser muy dañino.
Independientemente, Elon Musk mantiene sus reservas. El 15 de marzo, acudió a Twitter, la plataforma de redes sociales de la que ahora es dueño, para expresar sus quejas.
Aparentemente, el multimillonario meme invirtió $ 100 millones en el gigante LLM, mucho antes de que se convirtiera en una empresa con fines de lucro. Pero, aunque Elon parece estar preocupado por las implicaciones legales de la transición de OpenAI, su pasado muestra cuánto está realmente preocupado por los peligros potenciales de la inteligencia artificial.
Si bien el jefe de Tesla citó que dejó OpenAI simplemente por un conflicto de intereses, un nuevo informe de muestran que la verdadera razón de Elon para irse fue que su propuesta de hacerse cargo de la empresa y dirigirla él mismo fue rechazada tanto por Sam Altman como por otros fundadores. La razón por la que propuso esta idea fue que sintió que la empresa se había rezagado significativamente con respecto a Google y que él era el Mesías que podía cambiar las cosas.
Elon dejó en claro que su objetivo era establecer el laboratorio de IA como una fuerza competidora contra Google.
Con su partida, también se abstuvo de hacer una gran donación prevista. OpenAI indicó que Musk continuaría brindando apoyo financiero a la organización, pero no cumplió con el compromiso.
Entonces, ¿realmente el conflicto de intereses fue una lucha de poder que perdió Elon?
Según el informe de Semafor, parece que solo un pequeño número de personas en OpenAI compartían la creencia de que la partida de Musk se debió a posibles conflictos de intereses. Además, el discurso que pronunció durante su salida de la oficina de OpenAI, que se centró principalmente en este tema, no recibió comentarios favorables de la mayoría de los empleados que se mostraron escépticos ante la explicación brindada.
Afortunadamente, tras la partida de Elon, Microsoft $ 1 mil millones en OpenAI, obteniendo derechos de licencia exclusivos para el GPT-3 de la compañía , al mismo tiempo que se convierte en su proveedor exclusivo de nube. La inversión fue fundamental para permitir que OpenAI prosiga sus esfuerzos de investigación. A través de un esfuerzo de colaboración entre el laboratorio de IA y su nuevo inversor Microsoft, se construyó una supercomputadora para entrenar modelos a gran escala, lo que finalmente condujo a la creación de ChatGPT y el generador de imágenes DALL-E.
El futuro de la IA abierta
El objetivo de la empresa, , es desarrollar sistemas de IA que tengan un impacto positivo en la sociedad, así como explorar aplicaciones comerciales rentables de su tecnología sin intenciones declaradas de competir, sino que busca colaborar con otras instituciones de investigación y políticas para promover la seguridad en el final. etapas del desarrollo de AGI.
Sin embargo, la competencia continúa intensificándose. Mientras que Elon, por ejemplo, podría presentar una fachada de no ser un adversario,
De hecho, se ha subido al carro de los competidores directos de OpenAI. Está persiguiendo activamente la de una nueva startup para enfrentarse a OpenAI. Obviamente, Elon no ha dejado el ring de batalla; por lo tanto, la lucha por el poder continúa.
A pesar de la decisión poco común de Sam Altman de renunciar a la participación en la nueva entidad con fines de lucro como una forma de mantenerse alineado con la misión original, Elon Musk sigue sospechando del cambio de OpenAI de una organización abierta a una cerrada.
De cara al futuro, la empresa continúa ampliando los límites de la inteligencia artificial a través de la investigación innovadora y el desarrollo de nuevas tecnologías. ¿Quién sabe qué se les ocurrirá a continuación? Tal vez un robot que pueda llevar humanos a Marte o una máquina que pueda predecir el fin del mundo. De cualquier manera, se ve súper interesante.
