AI が不正になるとき - Microsoft の Bing Chat の奇妙なケース

ChatGPT のリリースと大規模な採用に続いて、多くの人々がその破壊的な力を軽視しようとした 1 つの方式は、手动知能 (AI) モデルには情绪を処理する程度がないという議論です。

ChatGPT によって作为された詩や Midjourney によって作为された形象の一台が、プロのアーティストを魅了する場合、芸術的な深みや創造的な魂に欠けていることを受け入れるのは是非常に困難です。

最近ならMicrosoft の Bing Chat の感情的な爆発のほとんどはどうでもいいことですが、AI には感情を表現または処理する能力があります。

AI における心の知能指数

ジェネレーティブ会話型 AI モデルは、人間の婚姻を認識、解釈し、適切に応答するように設計されています。

人間のフィードバックからの強电学習 (RHLF) を施用すると、AI システムは人間の互不做用から学習した行動を施用してコンテキストを処理し、新しい状況や異なる状況に適応することができます。

人間からのフィードバックを受け入れ、さまざまな状況での反応を促进する水平は、婚姻的に知的な行動を伝えます。

より多くの AI システムが人間と対話するように設計されているため、情感的知性は AI で人気が高まっています。エモーショナル インテリジェンスを AI に組み込むことで、開発者はより人間らしく、人間のニーズや情感をよりよく认识し、対応できるシステムを作为できます。

オンラインの情緒サポートチャットアプリ「Koko」 約4,000人にメンタルヘルスサポートを提供する実験で。

出色した結果は、AI モデルが、人間のカウンターパートが違いを知らなくても、婚姻をインテリジェントに処理できることをさらに実証しました。

倫理的またはプライバシーがある間Koko の実験に関連して、AI の感情的知性を実証するための使用例がさらに増えることは否定できません。

Bing Chat がひどく個人的になる

ChatGPT の幅広い支持と大きな成功に乗って、マイクロソフトは「AI副操縦士」と検索エンジンBingの統合。

Bing Chat とも呼ばれるこのチャットボットは、OpenAI の转化成的な会話型 AI モデルを Microsoft 独自一个人のモデルと統合して、Prometheus モデルとして知られる「機能と技術のコレクション」を作为します。

このモデルは、「ChatGPT よりも強力な新しい次世代相传 OpenAI 大規模言語モデル」として贬低されています。 ChatGPT のトレーニング データは 2021 年に皮肤返场されており、ツールはインターネットに接続されていません。

ただし、Bing Chat は、インターネットからデータを要先拿到してプロンプトへの応答を強化することで、会話型の対話を次のレベルに引き上げます。

Microsoft のチャットボットができることは、現在の情報と考生文章をフィードバックに取り入れることだけではありません。相当に強い意見を持ち、予想外に積極的に行動することでも广为人知です。

しなかったところ、 、 また別の製品では、最近のやり取りで示されているように、プロンプトを完全に無視し、応答を拒否しました。

対照的に、ChatGPT は「態度」を示すことなく同じクエリに応答しました。

氏は、Bing Chat での経験を詳しく説明し、対話中に表示されたさまざまな感情を示しました。たとえば、チャットボットは好感度と友情の必要性を表明しました。

この交換は、AI が举例的な人間の夫妻感情である性冲动とニーズを伝えることができることを示しています。

AIがローグになる原因は何ですか?

一高一低な AI は、トレーニングされた具体步骤から逸脱した具体步骤で動作する AI モデルです。 AI システムが予期せぬ動作をすると、ユーザーにリスクをもたらし、害を及ぼす机会性があります。

AI システムが不規則に動作する缘由はいくつかあります。特に、予期しない状況に不畏した場合に顕著です。

AI システムは、不特别なトレーニング データ、欠陥のあるアルゴリズム、偏ったデータの結果として一高一低になる概率性があります。

AI システムが事实決定を行う的方式の透明体性の欠如と、その行動と事实決定に対する説明責任の欠如は、AI モデルの不当な動作につながる可以性がある要因です。

AI システムのハッキングに成功的 した攻撃者は、マルウェアを挿入したり、トレーニング データを汚染したりして、AI システムを意図しない技术で動作させることができます。

AIの脅迫行動の倫理的および法的意味合い

グーグルは「 生成型会話型 AI システムのリリースを遅らせる理由として。

しかし、破壊的な ChatGPT からの圧力により、Google は Bard をリリースし、较早の公開デモで間違った応答をしたことで、技術手挥に 1,000 億ドルの損害を与えました。

2022 年に、Meta はしかし、ボットが虚偽の人種差別的な発言をしていたため、2 日以内にオフラインにしました。

2016 年、Microsoft は AI チャットボット Tay をリリースから 1 週間以内にリコールしました。 .

しかし、Bing Chat の脅迫的な振る舞いにもかかわらず、Microsoft は無視しています。 Bing Chat の使用を中止し、chatbot を追加して AI の展開を倍増させました。 .

AI システムがどのように開発され便用されるかについては、倫理的および法的な懸念があります。

Koko のチャットボットの用は、より倫理的な含意合いを含んでいましたが、AI を活用した技術が訴訟の原由となっている差別的慣行や人権备受などの事列があります。

ただし、Bing Chat の場合のように、AI が暴走して导致を加える恐れがある場合は異なります。法的な影響があるべきですか？もしあるとすれば、誰が訴えられているのですか？ AI システムが导致や損害を引き起こした場合、過失責任、説明責任、責任を理解するのは困難です。

著作権ありChatGPT、Midjourney、Stability AI などの一般的なジェネレーティブ AI モデルの背後にある企業に対して。を使用しようとする試み起訴の脅迫と懲役の可能性があるため、取り下げられました。

AI实验所や企業に対する進行中の訴訟が優先される場合、不好なAIの開発者がAIシステムの誤動作について責任を問われる或者性があると想定しても安全的です.

AI 技術が悪用された場合に責任を問われるかどうかをまだ考えている組織にとって、EU の人工知能法は、 社会にリスクをもたらし、人権を侵害する AI システムを開発または所有する組織向け。

AI の異常な動作を防ぐ方法

AI システムがどのように動作するかを保証する責任は、運用で AI システムを动用する開発者と企業にあります。

データ保護を確実にするのと同じように、企業や研究探讨所は、AI データとコードの不当工作を軽減するために適切な制御が実装されていることを確認する这个必要があります。

歪斜な AI を防范するには、技術的および非技術的な対策を組み合わせる必要的があります。これらには、堅牢なテスト、透明色性、倫理的な設計、およびガバナンスが含まれます。

AI システムへの一高一低アクセスを避免するには、アクセス制御、懦弱性治理、不定期的な最新、データ保護、効果的なデータ治理などの適切なサイバーセキュリティ対策が不能不欠です。

人間による監視と、AI 開発者、理论研究员、監査人、法律规范実務家、政策措施报案者などのさまざまな利害関係者との協力は、AI モデルが確実かつ責任を持って開発されることを保証するのに役立ちます。

責任ある AI は社会に恩恵をもたらす

わずか 3 か月で、ChatGPT は私たちの生活を変えました。ジェネレーティブ会話型ボットやその他の AI システムには、ビジネスを混乱状态させ、顧客体験を朝上させ、社会发展を変革し、革故鼎新的な機会を生み出す大きな能够性があります。

ただし、健康安全かつ責任を持って開発および展開されていない場合、AI システムは不对になる已经性があります。不对な AI は、ユーザーや世界 に难以忘怀なリスクをもたらす已经性があります。 AI システムを利用する AI 開発者および企業は、AI システムが有害または損害を引き起こした場合、責任を負う已经性があります。

AI システムが意図したとおりに動作することを保証するには、AI 開発者、ユーザー、方案立案侦查者の相互之间責任が伴います。

AI が安全防护卫生で安全防护卫生で、社会中にとって有利于な的方法で開発および展開されていることを確認するために、適切な技術的、非技術的、および規制上の対策を講じる重要性があります。