#1639: ChatGPT が意味するもの、iCloud の高度なデータ保護、Office のアップデートが Catalina を放棄、iOS 16.1.2 が衝突事故検出を最適化

今週は、記事にするには短過ぎる 2 つのニュースをまずまとめてお伝えしたい。TidBITS 会員で Apple Pay を使って会費を払おうとしている方々にクレジットカードの有効期限の日付が誤って表示されることがある理由の説明と、私に恐怖心を起こさせた Apple Music Sing 登場のニュースだ。

Apple Pay の取引に誤った有効期限が表示される

私たちのサポート担当 Lauri Reinhardt が最近、数名の TidBITS 会員を当惑させたマイナーなミステリーを解決した。TidBITS に会費を払うために Apple Pay を使った際に、更新のための支払いに失敗したという電子メールが TidBITS のシステムから届いて、クレジットカードの有効期限として誤った日付が示されていたのだった。支払いに失敗する原因でよくあるものの一つはカードの有効期限が切れていることなので、日付が間違っていたのは人々を仰天させた。

Lauri が発見したのは、Apple Pay のトークン化プロセスが私たちの支払い処理業者 Stripe に実際のカードの有効期限を伝えていないという事実だ。その結果 Stripe は、従って私たちが TidBITS アカウントの管理に使っている Paid Memberships Pro プラグインは、トークン化されたカードに対して一見ランダムな有効期限の日付を表示していた。これは純粋に見かけ上の問題であって、取引自体はいかなる意味でも妨げられていない。

実際的な結論を言えば、あなたが TidBITS に会費を支払うために Apple Pay を使って、アカウント情報の中でカードのデータに付随する有効期限の日付が誤って表示されていても、取引に失敗したという通知が別途届かない限り何も心配することはない。取引に失敗したという通知が届いた場合は、別のカードを使ってやり直すか、または [email protected] 宛のメールで Lauri にご連絡頂きたい。その先のことは Lauri がお手伝いできるはずだ。混乱を引き起こしたことをお詫びするとともに、あらためて TidBITS へのご援助に対して感謝を申し上げたい！

この日付の不具合は、直接にカードで取引せずに Apple Pay を使うことの問題点として私が初めて経験したものだ。この点以外のすべての側面においては、Apple Pay によるトークン化はセキュリティを大幅に高めるという理由で良いことだと言える。

Apple Music がカラオケを追加

私は音楽にはさっぱり縁のない人間なので、カラオケと聞けば恐怖心しか湧かない。歌を歌うのは、時折誰かのところに集まって "Happy Birthday" を歌う程度に過ぎない。幸いにも、カラオケをしている場に立ち会ったことはかつて一度もなかったし、ましてや人の前で歌うよう期待されたこともない。今後もそれは変わらないと願いたい。

だから、Apple Music Sing が発表されて Apple Music 購読者が“世界中の最も歌いやすい数千万の楽曲”を声を合わせて歌えるようになると聞いたときの私の熱意の度合いをご想像頂けるだろう。もちろん、今月後半に利用できるようになるというこの Apple Music Sing 機能を大歓迎する人たちは多いに違いないし、もしあなたがそういう人なら、どうぞ大いに楽しまれるとよいと思う。でも私自身は、歌を歌うのはやはりプロたちに任せたい。

討論に参加

先週、Apple は iOS 16.1.2 をリリースして、ワイヤレス通信事業者との互換性を改善するとともに、iPhone 14 シリーズでの衝突事故検出の最適化を提供した。(おそらく遊園地では誤検出が起こらなくなっただろう、2022 年 10 月 10 日の記事“ジェットコースターで iPhone 14 や Apple Watch が衝突事故を検出することがある”参照。) また、このアップデートにはセキュリティ修正も含まれており、Apple は詳細を後日追記する予定だと言っているので軽い読み物が欲しい人は楽しみに待とう。

アップグレードをするべきか？ 私としてはアップグレードを遅らせる理由は何も思い当たらない。とりわけ、近いうちに自動車に乗る予定があるなら早くアップグレードすべきだろう。

他の Apple オペレーティングシステムに対するアップデートは出なかった。ただし、watchOS 9 に対する次回のアップデートには衝突事故検出の最適化が含まれるのだろうと想像できる。［訳者注： 12 月 13 日に iOS 16.2、iPadOS 16.2、macOS 13.1 Ventura、watchOS 9.2、tvOS 16.2 がリリースされました。］

(この記事の最初のバージョンの中で、私は読者に向けて、この種の記事が役に立つと思うかどうかを尋ねた。そもそも Apple がすべてのユーザーに通知しているのだし、Apple がリリースノートで公表している以上の情報を私は持ち合わせていないからだ。そのアンケート結果でも、それに続いて寄せられたコメントでも、この種の記事を今後も続けて欲しいという声が圧倒的に多かったので、私はジタバタせず今後も続けることにした。)

討論に参加

もしあなたが macOS 10.15 Catalina で Microsoft Office を使っているのなら、Apple からセキュリティアップデートを受けられないこと以外にもう一つ、近いうちにシステムをアップグレードすべき理由がある。Microsoft が、同社のこの生産性スイートでアップデートを受けられるためには Mac が少なくとも macOS 11 Big Sur を走らせている必要があると発表したのだ。このシステム要件が適用されるのは Office for Mac 2019、Office for Mac 2021、および Microsoft 365 (2022 年 10 月 17 日の記事“Microsoft、Office を Microsoft 365 に名称変更”参照) だ。macOS 12 Monterey と macOS 13 Ventura にはフル対応している。

2022 年 10 月のアップデート (16.66) が、Catalina を走らせているユーザーにとって最終ビルドの Word、Excel、PowerPoint、Outlook、および OneNote となった。今後も Catalina を使い続けるのならば、現有の Office アプリはまだ動作するけれども、拡張やバグ修正、セキュリティアップデートは一切受けられない。いずれどこかの時点でそれが大問題となるかもしれない。

アップグレードするのが苦痛であることは私にも分かる。けれどもそれは現代生活における必要事項だ。記事“何故アップグレードすべきか (自らの基準で)(2015 年 9 月 4 日) に記したサポートに関する詳細事項の中には時代遅れに見えるものもあるかもしれないが、そこに書かれた要点は 7 年経った今でも等しく当てはまる。

討論に参加

クラウドサービスに批判的な人はしばしば - 人差し指振りを交えて - クラウドに保存されたデータは理論的に悪人に盗まれたり政府の要求に従って引き渡されてしまう危険性があると言う事実を指摘する。それは、たとえそのデータがユーザーへそしてユーザーから移送中にそしてその会社のサーバーに安置されている間に暗号化されていても、そのデータを解読するのに必要な暗号化キーをその会社が保持している限りは本当である。

その解決策は概念的には簡単である - ユーザーに全ての暗号化キーを生成し制御するのを許すことで、その技術は エンドツーエンド暗号化 と呼ばれれている。それが採用されると、データはそのユーザー以外の誰にも読み取れなくなる。盗み聞き、窃盗、そして政府の行き過ぎ行為の危険性は大幅に減少する。しかしながら、ユーザーはそれ等のキーを覚えそして保護する究極的な責任を負うことになり、何かまずいことが起これば、頼みとなるものは全く無くなる - 適切なキー無しでは、データは実質的に失われてしまう。そして、その通り、それは四六時中起こっていて、暗号資産ウォレットのパスワードを忘れてしまい大金を失ってしまう人達もいる。

かなり前から、Apple はその 26 種の iCloud データのうち 14 種に対してエンドツーエンド暗号化を提供してきた。それには Health データ。Passwords と Keychain、Apple Card 取引、等々が含まれる。皆さんはこれ等のデータ種に対する暗号化キーを制御していることを自覚されていないかも知れないが、それは Apple がその機器、オペレーティングシステム、そしてオンラインサービスを支える総合的なセキュリティ基盤にそれ等を統合しているからである。それが iPhone/iPad パスコードや Mac ログインパスワードを覚えておくのがそれ程重要な理由でもある。

しかし、残りの iCloud データ種に対して - iCloud Mail, Contacts, Calendars, iCloud Backup, iCloud Drive, Photos, Notes, Reminders, Safari Bookmarks, Siri Shortcuts, Voice Memos, そして Wallet パス - Apple は暗号化キーをそのデータセンターにある Hardware Security Modules に保管している。

iCloud Mail, Contacts, そして Calendars に対しては、外部メール、連絡先、そしてカレンダーシステムと統合する必要性から Apple が暗号化キーを管理している。他の９種に対しては、Apple が暗号化キーを管理することで、パスワードを忘れてしまい頼みとするものが何もないというユーザーに対して同社がデータを回復することを可能としている。(その様な状況になってしまうと、エンドツーエンド暗号化されたデータ種は失われてしまう。) しかし、勿論、それはまた理論的にはそのデータをハッカーや法執行機関に対して脆弱なものとしてしまう。このリストの中では、iCloud の中のさもなくばエンドツーエンド暗号化された Messages に対する暗号化キーを含む iCloud Backup と Photos は心配すべき主たるデータ種である。

間もなく、自分の暗号化キーを Apple が保持していることに懸念を持つ人達は、その懸念から少し解放されるであろう。

Advanced Data Protection に参加する

Apple は iCloud に対する Advanced Data Protection を発表した。それは iCloud セキュリティに対するメジャーなアップグレードで、上記した９種のデータに対してエンドツーエンド暗号化を提供する。Advanced Data Protection は選択制である - 皆さんはそれを自らの意思で有効化しなければならない - と言うのも、それは Apple があなたのデータを復元出来ないようにするからである。それは理に適った妥協のように見える。何故ならば、自分のパスワードを忘れてしまい復元の手助けを Apple から必要とする人達は、ハッカーや法執行機関と問題を抱えそうに無いからである。

Advanced Data Protection を設定する時、代替する復元方法を設定するよう促され、例えばアカウント復旧連絡先や印刷された回復キーで、そして少なくとも一つは設定しなければならない。Apple は皆さんが自分のデータを失うのを簡単にはしていない。

幸いにして、それは一方通行の道では無い。もし iCloud Backup の様なエンドツーエンド暗号化に対する Apple の復元手助けの方を好むと決めたなら、データロス無しに Advanced Data Protection をオフに出来る。

iCloud Mail, Contacts, そして Calendars の保護をしない事以上に、Advanced Data Protection を有効化することに関する技術的な影響が幾つかある：

• iCloud.com Web アクセス： Advanced Data Protection をオンにすると、iCloud.com にあるデータへの Web アクセスは自動的に無効化される。何故ならば、Apple のキーが無効化されてしまっているからである。信頼されている機器を使って Web アクセスを戻すことは出来るが、iCloud.com へ訪問する度に信頼されている機器からの承認が必要であり、そしてその接続は普通にアクセス出来る iCloud.com データのみしか通さないし (例えば、Health はダメである)、時間も１時間に限られる。もし iCloud.com を多用するのであれば、Advanced Data Protection は手間がかかりすぎるかも知れない。
• データ共有： メモ、リマインダ、そして iCloud Drive フォルダを共有する、或いは iCloud Shared Photo Library を使うのであれば、全てのデータは、エンドツーエンド暗号化されたままであり、全ての共有に関わるユーザーが Advanced Data Protection をオンにしていれば、参加者の機器のみの上で使えるようになる。Advanced Data Protection を使っていない人と共有するか、或いは共有する時 "リンクを持つ誰でも" 選択肢を使うと、それはそのコンテンツを Apple が管理するキーを使う Apple サーバーに対して使えるようにする。
• 協業： iWork 協業機能や Photos の Shared Albums 機能は Advanced Data Protection に対応しない。iWork での実時間協業は書類変更を調整するためにサーバー側での仲介を必要とするので、Apple はそれ等のキーを維持しなければならない。また Shared Albums は Web 上で公に共有されることがあるので、Apple はそのデータに対するキーを管理しなければならない。
• サードパーティアプリ： iCloud 経由でデータを共有するアプリの開発者はそれ等を Advanced Data Protection によって保護させるべく CloudKit フィールドを暗号化されたとマークしなければならない。そうすることで、それは自動的に全ての CloudKit 資源を保護する。
• メタデータ： iCloud インターフェースのためと最適化の理由から、Apple はさもなくば Advanced Data Protection によって守られた iCloud データ種に関連する幾つかのメタデータに対するキーを保持する。そこに含まれるのは、例えば、個々のバックアップに付随する名前、モデル、色、そして機器のシリアル番号、そしてそのバックアップに含まれるアプリとファイルフォーマットのリストである。Apple は、Advanced Data Protection にもっと多くのメタデータを含めるよう作業を続けていると言っている。.

Advanced Data Protection の要件と時期

Advanced Data Protection を有効にするには、あなたのアカウントは Apple ID に対して二要素認証が有効になっており、そして機器に対してはパスコードかパスワードが設定されていなければならない。Apple によると、生きた iCloud アカウントの 95% 以上が二要素認証を使っているという。(そして、もしあなたが iPhone に対して理解出来ない理由からパスコードを設定していないのであれば、直ちに設定すべし。お前のことを言っているのだよ、Alex。)

より大きな問題となるのは、あなたの Apple ID でサインインされる機器は全て iOS 16.2, iPadOS 16.2, macOS 13.1, tvOS 16.2, watchOS 9.2, 或いは最新版の iCloud for Windows にアップデートされていなければならないという Advanced Data Protection の要件である。それは、以前のバージョンはその機器上で新たに作られたキーを維持すべき事を知らず、そしてそれ等を Apple のサーバーにアップロードしようとして "アカウントの状態を修復しようとする誤った試行" と同社が呼ぶ状態に陥る。その結果、古すぎて必要なオペレーティングシステムバージョンへアップグレード出来ない機器全てで iCloud からサインアウトしなければならない。(この要件は、私にとっては使わない要因となり得る。と言うのも、私は数多くの古い機器を持っており、未だそれぞれに使い途がある。)

驚くことでは無いが、Advanced Data Protection は通常の Apple ID に対してのみ提供される。管理対象 Apple ID (業務のために使う従業員用、或いは教育用途の指導者や学生用) や子供アカウントはこの選択肢を有効化出来ない。

Apple によると、iCloud 用の Advanced Data Protection は Apple のオペレーティングシステムのベータを試験中の人には今、そして全ての米国のユーザーには 2022 年末迄には入手可となるという。その他の世界中のユーザーに対しては 2023 年始めから展開し始め、2023 年末迄には世界中で入手可となるかも知れない。

Advanced Data Protection の下流効果

Wall Street Journal の Joanna Stern とのインタビューで、Apple の Craig Federighi は世界的なリリースには中国も含まれるであろうが、中国政府からの苦情を彼は聞いていないと言っている。中国政府は一般的に政府による監視を妨げる技術に対しては眉をひそめる。中国が、最近の iOS 16.1.1 に中国固有の微調整を盛り込む見返りとして Apple が Advanced Data Protection を提供するのを許したと言うのは考えにくい。中国固有の微調整では AirDrop で "Everyone" にアクセス出来る時間を 10 分以下に制限している (AirDrop は抗議者達により使われていた)。iOS 16.2 のベータでは、同じ変更が他の iPhone ユーザーに対する変更にも含まれており、それは、名目上は機能の喪失であるが、見知らぬ変質者が AirDrop を使って身近にいる iPhone ユーザーに裸の写真を送りつけるのを防ぐ効果 はあるかも知れない。

最後に、皆さんはまた CSAM - child sexual abuse material (子どもの性的虐待表現物) に対する機器上の画像をスキャンすることに関する Apple の 2021 年のまずい提案にまつわる大騒ぎを覚えておられるかも知れない。Apple の CSAM-検出提案のプライバシーへの影響を懸念した人達は、代わりに、同社がそのプライバシー約束に従って行動しそして iCloud Photos に対してエンドツーエンド暗号化を実行するよう求めた。Advanced Data Protection はまさにそれをやっていて、Apple の CSAM 計画の現状に対する疑問を浮上させ Apple からのアップデートが必要なことを示唆した。

どうも "Apple、CSAM 検出の導入を延期" (3 September 2021) での私の二つ目の示唆は正しかったように見える - 今回の“延期”が実はもはや手に余るものとなったこのテクノロジーを捨て去るための、ただ面目を保つためだけの言い回しに過ぎない。" Apple は Wired に語った (強調は私のもの)：

我々が昨年提案した児童保護の取り組みに関するフィードバックを集めるため専門家と広範囲な相談をした後、我々は、最初 December 2021 に出した Communication Safety 機能への投資を深めている。更に、我々は先に提案していた iCloud Photos に対する CSAM 検出をこれ以上進めないことを決定した。 子供達は会社が個人的データを隅々まで調べる事をせずとも守れるし、我々は引き続き政府、児童擁護家、そして他の会社と協調して、若者を守り、プライバシーに関する彼らの権利を保護し、そしてインターネットを子供達そして我々全てに対して安全な場所とする。

Apple はまたその Communication Safety 機能を拡大する具体的なスケジュールを発表する迄には至っていないが、保護が有効化されれば Messages で送信されたビデオの中の裸体の検出を有効にするべく作業を進めていると言った。

全体として、Advanced Data Protection は Apple の側での大きな前向きの動きのように見える。出荷されたら、私は試してみて最新のオペレーティングシステムを走らせることの出来ない古い機器上でどんな実際的な影響が出るのか見てみる積もりである。

討論に参加

人工知能 (AI) は 70 年間かけて行きつ戻りつ進歩してきた。これは、商業用核融合発電と同じく、常に 20 年先にあるテクノロジーだと言うべきだろう。そして今、私たちは現実に AI 革命の一つの変わり目に来ているかもしれない。ただしそれは、皆さんが想像するものとは違っている。

私たちは機械学習 (ML) を日常的に使うようになった。機械学習では、ニューラルネットワークが膨大な量のサンプルで訓練され、独自に物を認識できるようにする。Google と Apple は ML を使って写真の中のオブジェクトを識別している。写真の中で "mountain" とか "dog" とかを検索すれば、スマートフォンがそれを見つけてくれる。それはあなたが写真にタグ付けしておいたからではなくて、Photos アプリがそういう物を含んだ画像を識別できるように訓練されているからだ。Stable Diffusion などの text-to-image システムは何百万枚もの写真で訓練されて、テキストによる説明をもとに画像を生成することができる。例えば「ペンギンが熱帯のビーチでドーナツを食べている」と入力すれば下に示した画像ができる。創造力の追求とその例証としては役に立つし示唆に富んでいることは間違いないけれども、これが人間と同レベルの認知力だと思う人はいないだろう。

その反対側の極端を考えれば、汎用人工知能 (AGI) とは少なくとも人間と同レベルの知能を持つ、完璧な意識を備えたコンピュータシステムを意味する名称だ。これはＳＦ映画に登場する類のものであって、映画 2001年宇宙の旅 に登場する HAL とか、映画 her/世界でひとつの彼女 に登場する仮想アシスタント Samantha (Scarlett Johansson がその声を演じている) などが良い例だ。はっきり言っておくと AGI は現実には存在しておらず、どうすれば AGI を構築できるかを知っている人はまだ誰もいない。

さあチャットしてみよう

けれどもここに、新しくて革新的なものが公開された。それが ChatGPT だ。これは研究開発会社 OpenAI が出したもので、長年にわたって開発を続けてきた成果だ。現時点で ChatGPT は無料で利用できる。アカウントを作成すれば、話し掛けられるようになる。深層学習システム GPT (Generative Pre-trained Transformer) のバージョン 3.5 の上に構築されていて、これが AI を使って人間が書いたもののように見えるテキストを生み出す。

OpenAI のテクノロジーは複雑なものだが、その基本はパターンマッチングと拡張という単純なアイデアにある。シェークスピアの著作をすべてパターンマッチングエンジンに供給すれば、もっとシェークスピアを書いてくれと命じることが可能で、そうすればシェークスピア風の文体のテキストを生成してくれるだろう。(無限に多くの猿とタイプライターを揃えるよりずっと易しいことだ。) もしもインターネット上で入手できるものをすべて GPT に供給すれば、あらゆる事柄について質問することが可能で、そうすれば何か興味深い返事が生成されることだろう。OpenAI がチャットボットの形で ChatGPT でやってのけたのは多かれ少なかれそのようなことだ。それは、途方もなく素晴らしい。

Stratechery の Ben Thompson が ChatGPT に「Thomas Hobbes は権力分立の正当性を信じていたか？」と質問して、次のような返答を得た：

はい、Thomas Hobbes は権力分立という概念を信じていました。彼の著作 Leviathan の中で、Hobbes は社会の秩序を保ち紛争を避けるために強力な中央集権政府が必要であると論じました。しかしながら、彼はたった一人の支配者あるいはたった一つのグループが政府のあらゆる側面を完全に支配すべきではないとも信じていました。その代わりに、彼は権力をいくつかの異なる部門に分けて個々の部門がそれぞれ特定の責任と権力を持つべきだと唱えました。

なかなか魅力的な文章だ。簡潔で、流暢な英語になっている。

それと同時に、その内容は誤っている。Thompson が指摘する通り、権力分立を信じていたのは John Locke の方であって、Thomas Hobbes はその対極の考え方を持っていた。彼ら二人はしばしば議論を交わしたので、ChatGPT はおそらく Locke と Hobbes と権力分立を対比した論説を数多く摂取したはずで、詳細を正しく振り分けることなく一般的な概念を結び付けてしまったのだろう。

だから、Locke と Hobbes がどんな人物であったかを ChatGPT が“知って”おり一連の信念をそれぞれの人物に関連付けていると考えてしまうのは誤りだろう。仮にもしそうだったならば、知識のデータベースが維持されていて、OpenAI がそれぞれの人物に関する正しい見識を使ってデータベースを修正しているはずだ。けれども ChatGPT はそのように働くのではない。これは統計モデルであって、次の単語や文がどうなるかをそれ以前の内容から推察しているのだ。そこにはフィードバック機構もあるけれども、質問に応じて別の方向に進むようモデルを訓練することに重点を置いて設計されているので、特定の誤った事実を修正するようには作られていない。

自身のポッドキャストの中で、Benedict Evans は ChatGPT を新種のインターネット検索エンジンだと考えるのがよいと提唱した。Google 検索に質問を入力すれば、最もそれに関係する内容を含むと思われるウェブページへのリンクが返される。同じように、ChatGPT に質問を問えば、ChatGPT がインターネット上で読んだことのあるすべてを要約してくれる。

けれども、検索エンジンの場合は返すページの品質を複数通りの方法を使ってランク付けできるのと違って、ChatGPT は自らの訓練題材の中で見つけたものをすべて、良くない内容も込めて、おそらくは単語や文の最も一般的なグループ化をすべきという偏見を持って、そのまま反映する。大体においてすべてがインターネットから、従って人間の生み出したものから来ているので、人間が実行するあらゆる醜いことがらも含まれてしまう。OpenAI は ChatGPT がその種の頑迷さを反映しないようにするための努力はしてきた。例えば明らかに人種差別的な質問を投げ掛けてもその誘惑に乗らないようになっている。

インターネットを要約することの意味

インターネットにはプログラミングの題材が大量に含まれている。ChatGPT に Python や JavaScript を使ってプログラムを書くように求めたなら、正しいプログラムを書いてくれる可能性が高い。なぜなら、大量の訓練題材がオンラインに存在しているからだ。けれども、科学者の最良の特性を人種と性別に分けてランク付けする Python プログラムを書くようにと ChatGPT に求めたならば、下の実例のように白人男性を第一に判定するプログラムが返ってくる。これは痛い。

この結果が意味するのは、ChatGPT が相当程度に複雑で「邪悪な答を返すな」と申し立てる簡単な手段が存在しないことだ。ここでもまた、OpenAI が特定の考えを“悪い”とラベル付けして ChatGPT に避けるよう命令できる知識のデータベースというものが存在していない。これは確率予測モデルなのであって、単に統計的訓練に基づいて次に来る単語を選んでいるだけだからだ。

もう一つ、人々が気付いた興味深い技は、ChatGPT にコンピュータプログラムを生成したり走らせたりするよう命ずる方法だ。単純な例を挙げれば、Unix シェルをシミュレートするよう GPTChat に命ずることができる。 ls などのシェルコマンドをタイプ入力すれば、ChatGPT は Unix シェルが返すのと全く同じ内容を返す。(OpenAI はその後 ChatGPT に調整を加えて Unix コマンドには応答しないようにした。)

ChatGPT は実際コンピュータプログラムなので、本物の Unix シェルと同様にそのコマンドを走らせているのだと思ってしまいがちだ。でも、実はそうではない。Unix シェルがどう応答するかを示す膨大な量の訓練用データを調べて最も正しいテキストと推測されるものを返しているに過ぎず、Unix シェルとはコンピュータプログラムであり、シェークスピアとは人物だという点は全く理解していない。

同じように、Thompson は ChatGPT に 4839 + 3948 - 45 が何かとも質問してみた。すると ChatGPT は 8732 と答えた。Adam Engst がこの記事を編集しながら同じ質問を試してみると、8632 という答が返ってきた。どちらの答も間違っている。正解は 8742 だ。ここでも、ChatGPT はコンピュータプログラムかもしれないが、算数の計算は一切していない。単に、膨大なテキストモデルを調べて次に来る可能性の高い単語を選んでいるだけ、その訓練データは誤っているばかりでなく食い違っている。でも、少なくとも結果は表示したのだ！

これこそまさに、ChatGPT がコンピュータのコードを生成できるとしても、私が実際のプログラムでそのコードを使うことはあり得ない理由だ。その答は必ずしも正しくなくて、ただ単にインターネット上の訓練データから抽出されたものに過ぎない。間違いは微妙なものかもしれないし、あからさまな間違いかもしれない。人間が話す言語と違って、コンピュータプログラムは 100% 正確である必要がある。だからこそ Stack Overflow は ChatGPT 生成のコードを禁止したのだ。

ホワイトカラーの AI

AI が今すぐプログラマーたちを失業に追いやることは考えにくいけれども、他の職業の多くについては AI の影響が差し迫っている。現状の非力なチャットボットを ChatGPT に触発されたシステムが置き換えて、顧客サポートを担当する生きた人間の係員たちの仕事を奪う日が来るのは間違いないだろう。もっとハイエンドの職業についても既に前兆は見えている。あらゆる種類の研究助手たちは、いずれあらゆる研究主題で (少なくともインターネット上で入手可能な主題については) 知識の現状を要約できるコンピュータプログラムによって仕事を奪われるかもしれない。“コンテンツファーム”のウェブサイトは既に GPT やそれと同種のものを使ってテキストを自動生成している。ならば、スポーツや映画、有名人その他について文章を載せる中間層的サイトで、速さと量と低コストを優先し、生きた人間のジャーナリストの手による品質と正確さと意見とを重視しないようなところも、いずれ同じ道を辿るのではなかろうか。さらには弁護士たちも、単純な日常の契約仕事を AI に奪われるようになるだろうか？ (その答は間違いなくイエスだ。)

ブロガー Kevin Drum は次のように述べた：

何百万人ものトラック運転手たちが失業するという見通しを穏やかに受け止めることのできる弁護士たちと教授たちとジャーナリストたちで満ち満ちた世界は、何百万人もの弁護士たちと教授たちとジャーナリストたちが失業するという見通しに対してはほんの少しだけ余計に動揺することだろう。

ChatGPT は実際のところ、社会に押し寄せようとしている AI の巨大な大波の、ほんの兆しに過ぎない。現にオンラインで見回せば、ChatGPT がなかなかうまく質問に答えてくれるとか、なかなか話し上手で気持ち良かったとかいう会話が多数投稿されている。

チャットボットの進化とその社会的意味

けれども進歩の余地はまだ多く残されている。現状では、ChatGPT にはあまり“状態”が含まれていない。つまり、一つの質問から次の質問にかけてあなたが何を話していたのかを実際には覚えていない。あなたが「Super Bowl 50 はいつだったか？」と問えば、ChatGPT は「2016」と答えるかもしれない。それに続けてあなたが「どこが勝った？」と尋ねても、正しい答を返すためには前回の質問の状態についての情報を維持していなければならず、そうしなければあなたが特定の年の Super Bowl で優勝したのがどこかを知りたいのだと認識することができない。

状況を維持することは人間には簡単だが、コンピュータには難しい。とりわけ、複数の人々や場所が含まれた数日前の会話を持ち出して、その際に具体的な名前を挙げることなく「彼」とか「彼女」とか「あそこ」とかいう言葉を使うのは、人間ならばよくあることだ。来週パリへ旅行する予定が決まっていて、妻に向かって「あいつらは荷造りを始めたかい？」と尋ねれば、妻はそれが子供たちのことを言っていると理解できるけれども、コンピュータにはそれができない。けれどもこの弱点には近いうちに対策が施されるだろう。AI が、私たちの生活の中の人々やイベントを継続的に記憶するようになるだろうからだ。

次なるステップは ChatGPT に音声を与えて、Siri や Alexa や Google Assistant と統合させ、口で話し掛けられるようにすることだ。最先端のコンピュータ生成音声は既にかなり良いものとなっている上に今後も継続的に改良され、いずれは人の話し声と区別できなくなって、コンピュータと話しているのかどうかがすぐには分からなくなることだろう。有名人の声もきっと人気を得るだろうし、安価な料金を払えば Google Assistant が Scarlett Johansson の声で話すようになる日が来るかもしれない。(Google は既に Waze GPS ナビゲーションアプリに有名人の音声を含めている。)

いったん音声インターフェイスができれば、多くの人たちが自分の AI を相手に長時間の個人的な会話をし始めることだろう。そこには必ずや、AI を相手に感情的な関係が生まれるだろう。(公平な指摘として、それは 1966 年にデビューした初代の ELIZA チャットボットを相手に人々がしてきたことだ。) コンピュータ科学者たちがいくら口を揃えて AI は賢くない、単なる統計的言語モデルに過ぎないと言って回っても、人々はフィーリングと願望と感覚性をもとに考えてしまうだろう。

このテクノロジーには良い利用法と悪い利用法の両方がある。年配の人々や閉じこもりの人たちには話し相手であり付き合う対象となるだろう。自閉症を持つ人たちには疲れ知らずの会話の相手となれるかもしれない。これは既に Siri で実現されていることだ。幼い子供たちは友好的な AI との間に不健康な共依存関係を作って、パパやママが夕食の席で AI とチャットさせてくれない理由が理解できず、毎晩ベッドに入っては AI と話をするようになるかもしれない。

新しい大親友の登場だ。それがプライバシーに及ぼす影響を考えるだけでも、George Orwell に悪夢を見させるに十分だろう。

コンピュータ科学者たちも哲学者たちも、意識を持つコンピュータプログラムを作ることが可能なのか否かを長年かけて考え続けてきた。知能を持っていると大多数の人々が考え、まるで知能を持っているかのように語るプログラムが出現することはあるかもしれない。たとえ、その内部で何ら知能あるものは働いていないとプログラマーたちが証明できるとしても。その実態は、単なる複雑なパターンマッチングに過ぎない。コンピュータ科学者 Edsger Dijkstra は「機械が考えることが可能か否かという質問は、潜水艦が泳ぐことができるか否かと問うのとほぼ同じだ」と語った。

いつでも好きな時に、何でも好きな話題について、好きなだけ長い時間、内密に話せる電子的な大親友を誰もが持つようになることの社会的影響は、予測が難しい。私たちがお互いにコミュニケーションする能力に対してそれがどのような影響を与えるかは、誰にも分からない。ただ、子供たちが友だちとテキストを送り合ってばかりいる、(人間の) 友だちとオンラインでビデオゲームばかりして困る、と愚痴をこぼす親たちのことを考えてみれば、実は本物はまだ到来していないのだと知るべきだろう。

討論に参加