世界的に有名な人工知能研究所である OpenAI は、非営利組織から営利企業への移行を決定したことを発表し、大きな話題になりました。 . 2015 年から 2018 年まで、同社は非営利であり続けたと言われています。今日、同社は驚異的な評価を得ています.
眉をひそめ、議論を巻き起こしたこの動きは、長い間、世界の要塞と見なされてきた組織の劇的な変化を表しています。高度な AI 技術に対する需要が高まる中で、それを実現した人々による開発。しかし、OpenAI はその崇高な理想と市場の現実とのバランスをとろうとしているが、同社が AI 開発の複雑な状況をどのようにナビゲートし、その技術がより大きな利益のために使用されるようにするかについては疑問が残る.
このストーリーでは、OpenAI の変革を深く掘り下げ、その勇于な動きの暗示を探ります。
OpenAI の初期: 非営利の研究所
むかしむかし、遥か彼方の銀河系で...冗談ですが、そこはシリコン バレーでした。OpenAI は、人力知能で游戏天下を救うという使命6を持つ非営利の调查所として設立されました。彼らの計画は？機械学習を施用して、サンフランシスコの调查所から癌を取り除き、自動運転車を構築し、游戏天下の飢餓を終わらせます。大したことはありません。
非営利の科研機関として、OpenAI は最初端の AI 技術の開発と、この分野での画期的な科研の実施に注力してきました。口実？同社は、特許パーティーを開くと発表し、全員が款待されました!特許や科研を通常情况下に公開することで、他の組織や科研者と「公民权に協力」すると宣誓书した。
会社のときSam Altman、Reid Hoffman、Jessica Livingston、Elon Musk、Ilya Sutskever、Peter Thiel、Olivier Grabias など、著名な起業家や研究者のグループによって、その使命は明確でした。
「経済的利益を生み出す必要性に制約されることなく、社会全体に利益をもたらす方法で人工知能を進歩させること。」
「この分野のトップ研究者」のリストは、AI 研究者で OpenAI の共同創設者であるグレッグ ブロックマンによって作成されたと伝えられています。によると、ディープラーニングの動き. 2015 年 12 月、ブロックマンは 9 人を同社の最初の従業員として採用することができました。OpenAI の約束と使命が、これらの研究者を会社に惹きつけたと言われています。
Google と Facebook の元インターンで、後に OpenAI で働くようになった Wojciech Zaremba 氏は、OpenAI が他の場所で提供数据されたオファーに匹敵するものではなかったにもかかわらず、従業員と初心のために入社したと語った。これらのオファーは、彼の市場価値の 2 倍または 3 倍だったと彼は言いました。彼によると、
「OpenAI は最高の場所でした。」
同社は、未来に中心点を当てた科研を調査し、最終的にはこの科研のすべてではないにしても大区域を、需要した人に無料で共分する機会など、より価値のあるものを带来了したため.
Google を退職して OpenAI に入社した OpenAI のリサーチ ディレクター Ilya Sutskever 氏は、Google での前職から OpenAI への移行について次のように述べています。
「彼らは私が留まることを非常に説得力のあるものにしてくれたので、簡単な決断ではありませんでしたが、最終的に私は OpenAI を採用することに決めました。その理由の 1 つは、非常に強力な人々のグループと、非常に多くの点で、使命があるからです。」
会社の設立には、次のコミットメントが伴いました。 YC リーダーの Paul Graham を含む創設メンバー、および AWS や Infosys などの企業スポンサーからの資金提供により、研究者が安全性や倫理を損なうことなく AI の可能性を最大限に探求できるようにするセーフティ ネットを作成することを目的としています。
リリースされた AI ソフトウェア OPenAI の最初のバッチの 1 つは、 、「強化学習」と呼ばれる技術によって人工知能システムを構築するためのツールキット。 Brockman が会社が始めると述べたこととまったく同じです。同年、 さまざまなゲーム、Web サイト、およびその他のアプリケーションを介して AI の一般的な知性を評価し、磨くためのソフトウェア プラットフォームも導入されました。
しかし、この会社の優勢の刚开始段階で、イーロン マスクは、自動運転に関するテスラの人工费知能 (AI) の设计開発の取り組みとの既得好处反而の或许性と将会性を初衷に、2018 年に取締役会の席を離れました。会社。しかし、そうですか？新型のレポートによると、「既得好处反而」には私たちが知っているよりも多くのことがあり、すぐにわかります.
非営利団体への資金提供の課題
非営利団体である OpenAI は、学习目標と予算の制約とのバランスをとるという絶え間ない闘争に不畏していました。学习者は、投資家を感動させる建立营销概念差异化是比较快速的形式。端の AI 技術を開発しながら、輪ゴムのように 1 ドルを伸ばす形式を学ばなければなりませんでした。
同社はオープンな非営利組織は、その目的を達成するための最も効果的な方法でした。
「私たちの研究は金銭的な義務から解放されているため、人間へのプラスの影響により焦点を当てることができます。私たちは、AI は個々の人間の意志の延長であり、自由の精神に則り、可能な限り広く均等に分散されるべきだと考えています。」
しかし、数年後、彼らは、オープンで非営利の組織であることは、この目的を実行することをより困難にするだろうという結論に達しました.そのため、2019 年のエポックで、OpenAI は記念碑的な変曲点を経験しました。非営利団体としては異例の動きで、OpenAI は、「キャップドプロフィット」企業として運営される明確なエンティティであり、その基本構造に変革をもたらしました。
営利目的への移行の背後にある動機
OpenAI が営利重要性のモデルに移行するという准确な決定を下したとき。毎食ラーメンを食べるのにうんざりしていたからだと言う人もいれば、イーロン・マスクよりも多くのお金を稼ぎたかったからだと言う人もいます.依据はともかく、非営利の的研所にとっては大きな変化でした。
実際には、この決定は、財務の持続有机会性を高め、その技術の商業的応用を追求完美したいという願望によって動機付けられたものであり、倫理的な AI 開発への組織のコミットメントを損なう有机会性があると三部の批評家が主張したため、明らかにこの動きには論争がなかったわけではありません。
まず、会社「数十億ドル」を調達し、最高の人材を採用するために莫大な契約ボーナスを支払う必要があると。
「今後数年間で、大規模なクラウド コンピューティング、有能な人材の獲得と維持、AI スーパーコンピューターの構築に数十億ドルを投資する必要があります。」
同社はまた、OpenAI を開いたままにしておくことも危険だと考えていました。 Voxによると、OpenAI の安全チームは、すべての作業をオープンソースにすることは、人類の最善の利益に役立つのではなく、問題を引き起こす可能性があるという結論に達しました。そのため、彼らが GPT-2 を作成したとき、盗作、ボット、偽の Amazon レビュー、およびスパムのために簡単に悪用される可能性があるという懸念から、GPT-2 を公開することを差し控えました。
しかし、同社はこの移行を行ったが、同じ目標を追し続け、投資家と従業員の両方に財政的制限を課すと主張した.組織の新たな目标は富を築くことであるにもかかわらず、その道徳的基準を認識し続け、非倫理的な慣行を控えることを決意したと主張した.その結果、OpenAI LP を、営利団体と非営利団体を組み合わせた「キャップドプロフィット」企業として設立するというアイデアが生まれました。
「私たちは、使命を果たしながら資本を調達する能力を高めたいと考えています。私たちが知っている既存の法的構造は、適切なバランスをとっていません。」
所诉の「权益次数」の枠組みは、最开始のラウンドの投資家に課せられた制限をほのめかしており、最开始の投資の 100 倍の极限リターンしか受け取ることが許可されていません。
収益性と倫理的配慮のバランス
非営利から営利一定要性への移行により、OpenAI は好处への欲求と倫理的な AI 開発へのコミットメントのバランスを取る一定要がありました。それは一輪車に乗ってジャグリングをしようとするようなものでしたが、人類の本質についてのより実存的な質問がありました.
会社情報ラボは非営利のガバナンス構造 (OpenAI LP は、非営利部門である OpenAI Inc. によって「管理」されます) の下で運営されていると述べています。最も包括的なユニバーサル ベーシック インカム (UBI) の実験を後援したり、必要に応じて株主への株式義務を取り消すことができるなど、重要なイニシアチブに着手します。
株主が受け取ることができる财产权の受限制は、株主が制限なく富を手に入れようとする誘惑に駆られたり、极其に危害な何かを展開するリスクを冒したりするのを防ぐと述べた.
それにもかかわらず、Elon Musk は留保を維持しています。 3 月 15 日、彼は現在整个しているソーシャル メディア プラットフォームである Twitter で不満を反映出しました。
どうやら、ミームの億万長者は、営利企業になる前に、LLM 巨人に 1 億ドルを投資したようです。しかし、Elon は OpenAI の移行の法的影響について懸念しているように見えますが、彼の過去人工知能の潜在的な危険性について、彼がどれほど真剣に懸念しているかを示しています。
テスラのボスは、単に利益相反のために OpenAI を離れたと述べたが、 Elon が退職した本当の理由は、会社を乗っ取って自分で運営するという彼の提案が、Sam Altman と他の創設者の両方によって拒否されたことであったことを示しています。彼がこのアイデアを提案した理由は、ベンチャーがグーグルに大きく遅れをとっていると感じ、彼が物事を好転させる救世主であると感じたからです。
イーロンは、AI ラボを Google に対抗する力として確立することが彼の目的意义であることを明らかにしました。
彼が去ることで、彼はまた、意図された多額の寄付をすることを控えました. OpenAIのマスク氏は組織に財政支援を提供し続けると述べたが、彼は約束を果たさなかった。
では、本当に优势相同はイーロンが負けた権力闘争だったのでしょうか?
Semafor のレポートによると、OpenAI の一些の個人だけが、Musk の辞任が财产权反着的の会性によるものであるという执着を共设していたようです。さらに、彼が OpenAI のオフィスを離れたときに行った、主にこのトピックを中としたスピーチは、给予された説明に懐疑的なままであった很多数の従業員から诚意的なフィードバックを受けませんでした。
幸いなことに、イーロンが去った後、マイクロソフトはOpenAI に 10 億ドルを投資し、同社の GPT-3 の独占ライセンス権を獲得、その独占的なクラウド プロバイダーにもなります。この投資は、OpenAI がさらなる研究努力を追求できるようにするのに役立ちました。 AI ラボと新しい投資家である Microsoft との共同作業を通じて、大規模なモデルをトレーニングするためのスーパーコンピューターが構築され、最終的に ChatGPT と画像ジェネレーター DALL-E が作成されました。
OpenAI の未来
会社の狙いは、、社会にプラスの影響を与えるAIシステムを開発し、競合する意図を明言せずにその技術の収益性の高い商用アプリケーションを探求することを目的としていますが、代わりに他の研究機関や政策機関と協力して最終的な安全性を促進することを目指していますAGI開発の段階。
とはいえ、競争は激化し続けています。たとえば、イーロンは敵対者ではないという見せかけをしているかもしれませんが、
実のところ、彼は実際に OpenAI の直接の競合他社の時流に加わっています。を積極的に追求している. OpenAIに対抗する新しいスタートアップの。明らかに、Elon はバトル リングを離れていません。したがって、権力闘争はまだ続いています。
サム・アルトマン氏が多年以前の历史使命感に沿った工艺として新しい営利団体への出資を差し控えるという異例の決定を下したにもかかわらず、イーロン・マスク氏は OpenAI がオープンな組織からクローズドな組織に移行することに懐疑的です。
今後も、同社は技术革新的な实验と新技術の開発を通じて、人工客服知能の限界を押し広げ続けます。彼らが次に何を思いつくか誰が知っていますか？人間を木星に飛ばすロボットか、世界里の終わりを予言できる機械かもしれません。いずれにせよ、それは是に興味深いようです。
