iroiro

<< 2023年05月 >>
日	月	火	水	木	金	土
	1	2	3	4	5	6
7	8	9	10	11	12	13
21	22	23	24	25	26	27
28	29	30	31

2023年05月26日

RBRM プロンプトを読む（丸山先生のBlog）

ChatGPT

OpenAIはプロンプトを使用して、モデルの出力をチェックし、モデルを制御しています。プロンプトは、人間が作成したルーブリック（評価基準）に基づいて、モデルの出力をカテゴリーに分類します。このセッションでは、OpenAIの開発者がなぜプロンプトを使用しているのかについて説明します。プロンプトは、プログラムとは異なり、名前を持たず、名前で呼び出して引数を渡すこともできません。また、プロンプトは条件分岐や繰り返しの処理、再帰的な呼び出しはできません。しかし、プロンプトは入力文字列を受け取り、出力文字列を返すことができます。変数の概念はないものの、文字列に名前を付けて意味を持たせることができます。また、選択肢と条件ルールを使用して場合分けが可能です。プロンプトでは、リストや集合を定義し、要素の定義を記述することもできます。さらに、出力のフォーマットも指定することができます。プロンプトは言語の意味を記述するものであり、英語や日本語のプロンプトでも同じように動作します。

Bing AIの説明

RBRMプロンプトとは、GPTの出力を受け取って、その出力をどのように評価するかについて人間が書いたルールです。これは、ルーブリックと呼ばれる評価基準の一種で、GPTの出力がどの程度正確であるかを評価するために使用されます.
RBRMプロンプトは、GPT-4の開発においても使用されました. このプロジェクトでは、画像とテキストのインプットを受け取り、テキストのアウトプットを生成することができる大規模かつマルチモーダルなモデルであるGPT-4の開発が報告されています.

https://maruyama097.blogspot.com/2023/05/rbrm.html

[商品価格に関しましては、リンクが作成された時点と現時点で情報が変更されている場合がございます。]

Chat GPT完全攻略 (週刊ダイヤモンド 2023年 6/10・6/17合併号) [雑誌]
価格：880円（税込、送料無料) (2023/6/4時点)

楽天で購入

posted by 3chan at 16:02| （カテゴリなし）

Surgeon General Warns That Social Media May Harm Children and Adolescents（ソーシャルメディアが子どもや青少年に害を及ぼす可能性があると警告する外科医総長）

ChatGPT(英文で要約した後翻訳したもの)

アメリカの最高保健官、ヴィヴェク・マーシー博士は、若者に対するソーシャルメディアのリスクについて警告しました。ソーシャルメディアは子供や思春期のメンタルヘルスと幸福に深刻なリスクをもたらす可能性があります。報告書では、家族が子供のソーシャルメディア利用を指導するための実用的な推奨事項が提案されました。具体的には、デバイスから離れて食事や直接の交流を行うこと、コンテンツの制限と個人情報の保護を確保するための「家族のメディアプラン」の作成が重要です。また、マーシー博士はテクノロジー企業に対し、子供向けのデフォルト設定に高い安全性とプライバシー基準を求めました。さらに、政府には技術プラットフォームの健康と安全基準の策定を促しました。報告書は、ソーシャルメディアの問題を国家的な議論の中に取り上げ、州や連邦政府が制限を設ける必要性を示しています。若者のソーシャルメディア利用は増加しており、不安やうつ病、自己傷害や自殺思考に関連した問題も増えています。これらの傾向を理解するためにはさらなる研究が必要です。報告書は、全ての若者に対してソーシャルメディアを非難するものではなく、むしろ「安全性についての十分な証拠がまだない」と述べています。保健局長の立場には法的な権限はなく、報告書も法的な効力を持ちませんが、アメリカ国民の関心を喚起し、緊急の公衆衛生問題として取り組むための推奨事項を提供することを目的としています。

Bing AIの説明

ソーシャルメディアが子どもや青少年に害を及ぼす可能性について報じたニュースです。
・「ソーシャルメディアの利用が、子供や青少年に害を及ぼす懸念を裏付ける証拠は日増しに多くなっている」「児童や青少年は極めて不適切かつ有害なコンテンツにさらされ、ソーシャルメディア上で1日3時間以上過ごす人は、うつ病や精神不安など、心の健康のリスクが倍になる」（同勧告から）。
・青少年の過剰なSNSの使用は、睡眠の質の低下、睡眠時間の短縮、睡眠障害、うつとの関連が示されている。10代の子どもへのSNSの悪影響について、報告書で指摘されている主な内容は以下になります。アメリカでは、13～17歳の青少年の95％がSNSを利用している。
・ソーシャルメディアが子どもや青少年の精神的健康に与える影響について勧告を発表した米国外科医長ビベック・マーシー博士は、「13歳から17歳の青少年の95パーセントがソーシャルメディアを利用しています。ソーシャルメディアの利用がもたらすプラスとマイナスの影響について述べ、青少年のソーシャルメディアの利用について、政策立案者、親、研究者に向けた提言を行いました。」と述べています。

https://www.nytimes.com/2023/05/23/health/surgeon-general-social-media-mental-health.html

インターネットの光と影被害者・加害者にならないための情報倫理入門／情報教育学研究会・情報倫理教育研究グループ【1000円以上送料無料】
価格：2,200円（税込、送料無料) (2023/6/2時点)

楽天で購入

posted by 3chan at 15:23| （カテゴリなし）

モデルの緩和策（丸山先生のBlog）

ChatGPT

GPT-4 System Cardの「3.1 Model Mitigations モデルの緩和策」についてのセッションでは、GPT-4がモデルの「安全性」向上のために行った対策について解説します。組み合わせたアプローチにより、GPT-4の安全性が向上しました。許可されていないコンテンツのリクエストに対応する傾向が82%減少し、センシティブなリクエストに対応する頻度も29%増加しました。また、GPT-3.5と比較して、GPT-4は有害生成の確率を0.73%に軽減しました。さらに、モデルの「事実性」にも対策が取られ、幻覚を軽減して事実性を向上させることに成功しました。拒否に関しては、「有害な」要求の拒否は可能ですが、ステレオタイプや差別的なコンテンツ生成の課題はまだ残っています。OpenAIはモデル自体をツールとして利用することで、これらの緩和策を実現しています。次回は「拒否」の判断を担っているRBRMのプロンプトについて詳しく見ていきます。

Bing AIの説明

機械学習モデルの緩和策とは、モデルの精度を向上させるために行われる手法のことです。モデルの精度を向上させるためには、様々な方法があります。例えば、モデルの複雑さを減らすことで、過学習を防ぐことができます。また、データ拡張を行うことで、モデルの汎化性能を向上させることができます。他にも、異常値の除去やアンサンブル学習などがあります。
機械学習モデルの緩和策には、以下のような例があります。
・モデルの複雑さを減らすことで、過学習を防ぐことができます。例えば、モデルの層数を減らす、ノード数を減らす、正則化を行うなどがあります。
・データ拡張を行うことで、モデルの汎化性能を向上させることができます。例えば、画像データに対しては、回転や拡大・縮小などの変換を加えることがあります。
・異常値の除去を行うことで、モデルの精度を向上させることができます。異常値は、モデルの学習に悪影響を与えるため、除去する必要があります。
・アンサンブル学習を行うことで、モデルの精度を向上させることができます。アンサンブル学習とは、複数のモデルを組み合わせて予測する手法です。

https://maruyama097.blogspot.com/2023/05/blog-post_24.html

実践マーケティングデータサイエンスショッパー行動の探索的データ解析と機械学習モデル構築（量子AI・データサイエンス叢書） [ 清水　隆史 ]
価格：2,860円（税込、送料無料) (2023/6/2時点)

楽天で購入

posted by 3chan at 14:58| （カテゴリなし）