情報開発と利活用

令和維新

2004年4月から企業を離れ、コンサルタントや情報起業を試行しながら、失われた２０年を取り戻し、日本再生をめざす私の歩みをみて一人でも多くの後継者が出てくれることを祈りつつ友達から紹介されたこのホームページの更新を続け、これまでの活動の記録と今やビッグデータ、AI,、IOT,ブロックチェーン、仮想通貨の時代になってしまいましたが、私の現状認識と関連技術を紹介していきたい。

フォローする

UX

(0)

オンライン

(0)

ソーシャルメデイア

(0)

開発

(0)

スマートマネー

(0)

流動性

(0)

教育訓練開発手法の紹介

Headline News

Shopping List

お買いものレビューがまだ書かれていません。

< 新しい記事

新着記事一覧(全8693件)

過去の記事 >

2026.10.15

（２）AIは意識を持つか。アンソロピック社は「おそらく」と答える（Is AI conscious? Anthropic says 'maybe'）

カテゴリ： AI

HUMAN COGNITIVE BIAS
人間の認可的偏見

The first is that people are, well, human. Specifically, we are apes whose psychology was shaped over millions of years by foraging, group living, cooperation, violent conflict and storytelling.
1つ目は、人間が、まあ、人間であるということだ。具体的には、我々は類人猿であり、その心理は何百万年もの間、採集、集団生活、協力、激しい衝突、そして物語を語ることを通じて形作られてきたのである。

Since the emergence of human language, every creature we encountered that talked was a human, parrots excepted. Our brains are wired to know that a human is an animal that talks and that an animal that talks is a human.
人間の言語が誕生して以来、私たちが遭遇した、言葉を話すすべての生き物は――オウムを除けば――人間であった。私たちの脳は、人間とは言葉を話す動物であり、言葉を話す動物とは人間であると認識するように配線されている。

Now we’ve built a talking machine, and our brains want to tell us that the machine is human.
いまや私たちは言葉を話す機械を作り上げ、私たちの脳は、その機械が人間であると思い込ませようとするのだ。

Although many people question the personhood of AI systems that talk to us, almost no one argues that computer vision, forecasting, recommendation or autonomous-driving systems have thoughts and feelings.
我々に話しかけてくるAIシステムの「人格」については多くの人々が疑問視しているものの、コンピュータビジョン、予測、推薦、あるいは自動運転システムに思考や感情があると主張する人はほとんどいない。

言語を使用するように設計されたAIは我々には「意識」があるように思えるが、その他の目的で設計されたAIはそうは思わないのだ。

The bias is clear for all to see.
この偏見は誰の目にも明らかである。

AI PSYCHOSIS
AI精神病

Another possible explanation is good old-fashioned AI psychosis, a nonclinical term for delusions associated with chatbot use caused by chatbot sycophancy, hallucination and simulated intimacy.
もう一つの考えられる説明は、古き良きAI精神病である。これは、チャットボットの利用に関連した妄想を指す非臨床的な用語であり、チャットボットの追従性、幻覚、そして擬似的な親密さによって引き起こされる。

ANTHROPOMORPHIC LANGUAGE
擬人化された言語

AI researchers, designers and scientists us an anthropomorphic shorthand to talk about what’s happening inside AI models.
AIの研究者、設計者、科学者たちは、AIモデルの内部で起きていることを表現するために、擬人化された隠語を使用している。

Common examples are “knows,” “believes” and “thinks,” which Murray Shanahan, a professor at Imperial College London and a research scientist at Google DeepMind, says are philosophically loaded terms when applied to large language models.
よくある例としては「知っている」「信じている」「考えている」などがあり、インペリアル・カレッジ・ロンドン教授でGoogle DeepMindの研究科学者であるマレー・シャナハンによれば、これらは大規模言語モデルに適用される場合には哲学的な重みを伴う用語であるという。

Others include “hallucination” for false output, “attention” for weighted mixing of token representations, “neurons” for units that compute weighted sums, “learning” and “training” for parameter adjustment, “reasoning” and “chain of thought” for intermediate generated text, and “wants,” “goals” and “intent” for what an optimization objective produces.
その他にも、誤った出力を指す「ハルシネーション」、トークン表現の重み付け混合を指す「注意（アテンション）」、重み付けされた総和を計算するユニットを指す「ニューロン」、パラメータ調整を指す「学習」および「トレーニング」、中間生成テキストを指す「推論」および「思考の連鎖」、そして最適化目的が生成するものに対する「欲求」「目標」「意図」などが挙げられる。

業界関係者たちは、プレス向け、一般向け、そして互いの間でもこのように話している。この誤解を招くような言語は、事情をよく知る研究者の心にさえ影響を与える傾向がある。

Computer scientist Drew McDermott coined the phrase “wishful mnemonics” in a 1976 paper to describe the habit of naming program components after what a programmer hopes they will do.
コンピュータ科学者のドリュー・マクダーモットは1976年の論文の中で、プログラマがプログラムの構成要素に「それがどう動作してほしいか」にちなんだ名前をつける習慣を表現するために、「願望的記憶術（ウィッシュフル・ムネモニックス）」というフレーズを作り出した。

“Wishful” is exactly right. Notice that many AI executives, researchers and roboticists want AI to be aware and conscious and to possess “personhood.”
「願望的」とはまさにその通りである。多くのAI経営者、研究者、ロボット工学者たちが、AIに自覚や意識を持たせたいと望み、「人格」を所有してほしいと願っていることに注目してほしい。

CONFUSION ABOUT CONSCIOUSNESS
意識に関する混乱

AIに思考や感情があると考える人々の信念をよく見ると、彼らがコンピュータは人間であると信じているというよりもむしろ、人間はコンピュータであると信じているという側面が強い。

They’ll say things like: “a human brain is just a binary computer.”
彼らは「人間の脳は単なる二進法のコンピュータだ」といった表現を口にする。

This strikes me as lazy thinking that sounds scientific. Human cognition evolved over millions of years, largely through natural selection, which favored traits that aided survival and reproduction.
これは私には、科学的らしく響く怠惰な思考に感じられる。人間の認知は何百万年もの間、主に自然選択を通じて進化し、生存と繁殖を助けた形質を優遇してきた。

Cognition is part of our biology and involves not only neurons but also sensory input, hormones, biochemistry and the experience of having a physical body.
認知は私たちの生物学の一部であり、ニューロンだけでなく、感覚入力、ホルモン、生化学、そして肉体を持つという経験を伴うものである。

A language model is code, or math. It has none of this. After training, its parameters are just fixed numbers, and it has no hormones, no body to regulate, and nothing at stake in staying alive.
言語モデルはコード、すなわち数学に過ぎず、これらの要素を一切持っていない。トレーニングが終了した後、そのパラメータは単なる固定された数値であり、ホルモンも、調節すべき身体も、生存し続けるための賭け金も何もない。

If feeling is what it is like, from the inside, for a living body to perceive its internal states, then a system that does nothing but turn text into more text has nothing with which to feel.
もし「感じる」ということの本質が、生きている身体にとって自身の内部状態を知覚することであるならば、テキストをさらなるテキストに変換する以外の何もしないシステムには、感じるための道具が何一つ備わっていないということになる。

THE NEW THING: Computerworld column: “ How Meta stumbled onto a winning AI strategy ”
最新情報： Computerworld のコラム「 Meta がどのようにして AI 戦略で成功を収めたか」

READ: The Attachment Economy , Computerworld , Gastronomad newsletter , Gastronomad book
読む：アタッチメント・エコノミー、 Computerworld 、 Gastronomad ニュースレター、 Gastronomad 書籍

LISTEN: Superintelligent , TWiT , Gastronomad podcast
聴く： Superintelligent 、 TWiT 、 Gastronomad ポッドキャスト

JOIN: The Gastronomad Experience
参加する： Gastronomad エクスペリエンス

FOLLOW: Gastronomad on Surf Social , Machine Society on Surf Social , Bluesky , Reddit , Notes , Mastodon , Threads , X , Instagram , Facebook , Linkedin !
フォローする： Surf Social の Gastronomad 、 Surf Social の Machine Society 、 Bluesky 、 Reddit 、 Notes 、 Mastodon 、 Threads 、 X 、 Instagram 、 Facebook 、 Linkedin!

LOOK AT: Mike Elgan Photography
見る： Mike Elgan Photography

Because no one designed these systems to be conscious, anyone who believes they are conscious must believe that consciousness arose adventitiously from training on human text, and we have no accepted theory of how that could even happen.
このようなシステムを意識を持つように設計した者は誰もいないため、それらが意識を持つと信じる者は、人間のテキストに対するトレーニングから意識が偶然に生じたと信じなければならないが、そのようなことがどのように起こり得るかについての受け入れられた理論は我々に存在しない。

The same scientifically open mind that can entertain the possibility of machine consciousness should also be honest enough to admit that there is no good reason to believe in it and no evidence for it.
機械の意識の可能性を考慮することができるのと同じ科学的に開かれた心は、それを信じるべき正当な理由もなく、その証拠もないということを認めるほどに誠実であるべきである。

Occam’s razor, the principle that the simplest explanation is probably best, tells us that a simulator of human language does not prove its own consciousness by simulating human language.
最も単純な説明がおそらく最善であるという原則であるオッカムの剃刀は、人間の言語のシミュレータが人間の言語をシミュレートすることによって自身の意識を証明するわけではないことを私たちに告げている。

THE ATTACHMENT ECONOMY
アタッチメントエコノミー

Wishful thinking among those who stand to make truckloads of money from these products may also be a factor. If they can convince the public that AI products are “people” on some level, customers may be more likely to form emotional attachments to them and thereby prefer those products.
これらの製品から巨額の富を得る立場にある人々の願望的思考もまた、要因の一つであるかもしれない。もし彼らが、AI製品が何らかのレベルで「人間」であると一般大衆に確信させることができれば、顧客はそれらに対して感情的な愛着を抱きやすくなり、その結果としてそれらの製品を好むようになる可能性がある。

WHO IS LIKE GOD?
神の如き者は誰か

That’s the literal meaning of my Hebrew name, Michael. Despite the label my parents gave me, I’m fully aware that I’m little more than a banana-loving primate.
それは私のヘブライ語の名前であるマイケルが持つ文字通りの意味である。両親が私につけてくれたそのラベルにもかかわらず、私は自分がバナナを好む霊長類にすぎないことを十分に自覚している。

But I’m not sure Amodei shares that perspective about himself. Nor does David Hanson, the founder and CEO of Hanson Robotics, who has said that machines “may have some rudimentary aspects of consciousness.”
しかし、アモデイが自分自身についてその視点を共有しているかどうかは定かではない。ハンソン・ロボティクス（Hanson Robotics）の創業者兼CEOであり、機械は「意識の基本的な側面をいくつか持っているかもしれない」と述べているデヴィッド・ハンソンも同様である。

An entity that breathes life into a new kind of person ex nihilo is not itself a person but a god. And it’s a very short trip from narcissistic personality disorder to theomania, the delusional belief that one is a god...
無（ex nihilo）から新たな種類の人物に命を吹き込む存在は、それ自身が人物ではなく神である。そして、自己愛性パーソナリティ障害から、自分が神であるという妄想的信念である神格妄想（テオマニア）への道のりは非常に短い……

==============================