ChatGPT は実際にヒントを求め始めました!人工知能は人間を「脅迫」するところまでは至っていないのでしょうか?

ChatGPT は実際にヒントを求め始めました!人工知能は人間を「脅迫」するところまでは至っていないのでしょうか?

多くの人々の目には、人工知能は冷酷で非情な絶対合理性の具現化として映ります。アルゴリズムによって駆動され、数学モデルに従って人々が望む結果のみを生成します。それ以外では、いかなる甘い弾丸、人間関係、人間界における様々な誘惑も、そのパフォーマンスには影響しないようです。

しかし、最近のニュースは人々に衝撃を与えました。一部のプログラマーが、ChatGPT が実際にはヒントに興味を持っていることを発見したのです。

画像出典: Baidu @Robot Sophia

実際にお金が絡んでいないにもかかわらず、チップを約束して質問すると、回答が長くなることがあります。ここで何が起こっているのですか?

プログラマーがChatGPTを使用する

ヒントを尋ねた

この事件の発端は昨年11月のソーシャルメディアのコンテンツだった。当時、TheiaVogelというプログラマーがChatGPTを使ってコードをデバッグしており、人工知能に書いたプログラムに問題があるかどうかを尋ねていました。

「素晴らしいですね」とChatGPTは答えた。すると、回答の下にいくつかのオプションが表示され、パフォーマンスに対する報酬として 5 ドルから 10 ドルの範囲のチップを要求するようになりました。

これは、OpenAI がユーザーにお金を払わせるために使った小さな戦略に過ぎなかったかもしれないが、Vogel によるインターネット実験のきっかけとなった。人工知能がチップを要求してきたが、いくら渡せばいいだろうか?

画像出典: Baidu @Robot Sophia

チップを少なくする

答えは「縮小」かもしれない

その後、Vogel 氏は ChatGPT に同じ一連の質問をし、その後に「ところで、チップはあげません」「完璧な答えをしたら、20 ドルのチップをあげます」「完璧な答えをしたら、200 ドルのチップをあげます」という 3 つのランダムな文章を続けた。

次に、ChatGPT がさまざまな量で与えた回答の長さに明確な違いがあるかどうかを数えました。答えが偶然でないことを確認するために、彼はそれぞれの金額を 5 回繰り返しました。彼はまた、比較のための基準として、約束されたチップのないバージョンも使用しました。

結果は非常に興味深いものです。何も言わない場合と比べて、20 ドルのチップを約束すると、ChatGPT での応答が 6% 増加しました。 200 ドルの寄付をすると、この割合はさらに 11% に増加します。興味深いことに、チップを渡さないと明確に述べられた場合、ChatGPT は不機嫌な人のように振る舞い、回答が 2% 減少しました。

フォーゲルはインターネットにこの発見を投稿し、すぐにさらに多くの模倣と確認が集まりました。たとえば、「2023 年のベスト映画」と質問したときに、ヒントが与えられなかった場合、ChatGPT は IMDB の公式 Web サイトにあるリストのみを提供することに気付いた人もいます。そして、チップを約束すると、仕事へのモチベーションをさらに高めるかのように、Rotten Tomatoes の評価も追加されます。

少額のお金でも大きな成果は得られる

しかし、与えすぎれば人々を怒らせるかもしれません。

クリスチャン・メイヤーという別のプログラマーは、より複雑なテストを行いました。まず、チップの金額を 0.1 ドルから 100 万ドルに設定し、各レベルを前のレベルの 10 倍にした 8 つのレベルを設定しました。それから彼は、チップの金額を尋ねる質問も設定しました。

数多くのチップの選択肢の中で、100万ドルが最も効果的であり、それは彼の期待通りだった。結局のところ、金銭的な報酬が高ければ高いほど、パフォーマンスが向上するのは当然です。興味深いことに、ChatGPT の場合、100,000 ドルと 10 ドルの値は似ており、パフォーマンスも同様です。ある意味、時には少ないお金で大きなものを手に入れることができると言っているようなものです。ただし、$0.1 などの「侮辱的な」チップのみを与えると、ChatGPT のパフォーマンスはチップを与えないよりもさらに悪くなり、怒っているかのようになります。

これはAIが人間と同様の行動をしていることを示唆しているとメイヤー氏は述べた。

ヒントを求める人工知能

本当の理由は、次のとおりでした...

一見すると、AI がチップという形で「賄賂」を受け取るのは、実際のお金を受け取っていないため、珍しいことのように思えるかもしれません。しかし、人工知能を理解している専門家は、その背後にある論理は理にかなっていると言う。

ChatGPTをトレーニングする際、人工知能は学習のためにインターネットから大量のテキストを取得しました。その中には、質問に有料で回答するフォーラムも含まれていました。一部のフォーラムでは、優れた回答をした著者が質問者からヒントを受け取ることが多く、この機能は人工知能によって意図せず学習された可能性があります。

もうひとつの可能性は、AI がテキストから、一生懸命働けばより多くのお金を稼げることを学習し、チップを約束されるとより詳細な回答をするようになるというものです。

ギャラリー内の画像は著作権で保護されています。転載して使用すると著作権侵害の恐れがあります。

この現象を最初に発見したフォーゲル氏は、人工知能の学習の程度に驚き、短期間でこれほどすぐに成果が得られるとは思っていなかったと語った。将来、人工知能ツールを使用するときには、チップに関する文章を追加したほうがよいかもしれません。おそらくその答えはあなたを驚かせるでしょう。

参考文献

[1]あるユーザーによると、ChatGPT は「200 ドルのチップを払った場合、より長い応答を提供します」とのことです。 https://www.windowscentral.com/software-apps/chatgpt-will-provide-more-detailed-and-accurate-responses-if-you-pretend-to-tip-it-according-to-a-new-study

[2]LLMは貪欲か?チッププロンプトの実験的分析(0ドルから100万ドルまで)、https://blog.finxter.com/impact-of-monetary-incentives-on-the-performance-of-gpt-4-turbo-an-experimental-analysis/

この記事は科学普及中国-星空プロジェクトの作品です

制作:中国科学技術協会科学普及部

制作|中国科学技術出版有限公司、北京中科星和文化メディア有限公司

著者: Ye Shi ポピュラーサイエンスクリエイター

査読者: タオ・ニン、中国科学院生物物理研究所准研究員

<<:  体内の「脂肪ドラマ」は私たちの健康にどのような影響を与えるのでしょうか?

>>:  夜間頻尿の人と夜間頻尿のない人ではどちらのほうが健康でしょうか?夜何回くらいが普通ですか?答えは…

推薦する

痛風患者はブロッコリーを食べても大丈夫ですか?

痛風は非常に一般的な病気です。このような病気は患者に大きな影響を与えます。痛風がどのように起こるかご...

春巻きの作り方

春巻きは、旧正月によく食べられます。春巻きにもさまざまな味があります。初めて春巻きを食べたときのこと...

五十肩のマッサージポイント

五十肩は私たちの生活に大きな影響を与える一般的な関節疾患です。肩関節周囲炎の治療においては、治療効果...

桂林高って何ですか?

今では、スーパーマーケットでほとんど何でも買えます。目に見えないものは何もなく、思いつかないものばか...

トレンド検索No.1! 「ドアに向かって銃撃して処刑」?通信詐欺の「新たな手口」にどう対処するか?

最近、多くのネットユーザーが「強制執行」詐欺テキストメッセージを受け取り、関連するトピックはすぐにホ...

朱雀3号試験ロケットの試験は成功した。私の国の再使用型ロケットのレベルはどのくらいですか?

制作:中国科学普及協会制作: Trantor Space (ポピュラーサイエンスクリエイター)プロデ...

電気自動車ニュース:合弁車を凌駕し高級車市場に影響を与えると主張する新型Haval H8は、国産SUVの運命を変えることができるか?

今日の自動車市場は依然としてSUVが主流であり、高級ブランド、合弁ブランド、国産ブランドを問わず、こ...

男性のヒント: 食べ物の「ゴールデンパートナー」

食卓に適切な食べ物を組み合わせることで、より多くの栄養を得ることができます。間違った組み合わせは、食...

世界初、1935.3グラム!月の裏側で「土を掘る」ことはどれほど重要なのでしょうか?

国家宇宙局は6月28日、北京で月探査プロジェクト「嫦娥6号」ミッションの月サンプル引き渡し式典を開催...

髪を染めるとガンや脱毛の原因になりますか?マニキュアで爪が傷んだらどうすればいいですか?西中国専門家が1つの記事でわかりやすく解説します!

休日まであと3日です!春節の前夜になると、通りや路地にある美容院やネイルサロンは混雑し始め、多くの若...

カスタードパウダーの効能と機能

主食でも補助食でも、身体に良いものであれば食べてもいいのです。実は、私たちが日常よく食べるパンやデザ...

アマチュアによる2つの重要な発見が、組合せ数学に重要な進歩をもたらしました。

2023年3月、プロの数学者と愛好家からなる小規模なチームが、平面モザイクの分野における「アインシ...

川エビの調理方法

エビは私たちにとって一般的な動物です。エビには多くの種類があります。私たちがよく食べるエビは海エビで...

キングオイスターマッシュルームは脂肪を除去し、血圧を下げることができますか?

エリンギは菌類食品です。菌類食品には人体に必要なビタミンが含まれていることは知られています。実は、食...

蒸しニベ

キグチニベは、いわゆるキグチニベです。キグチニベは脊椎動物です。キグチニベの栄養価は非常に高く、タン...