Googlr LaMDA

グーグルの対話特化型AI「LaMDA」が知性や感情を獲得したというエンジニアの主張がありました。
このエンジニアは解雇されてしまいましたが、Googleはこの「LaMDA」を「AI Test Kitchen」というサイトで公開する準備をしているそうです。

公開されるのは「LaMDA2」という改良版のようす。
LaMDA2を使用するのは登録制で、まずは少人数のグループから少しづつ始めていくようです。

Googleは、LaMDA2との会話を製品やサービスの改善に利用するとしていて、人間のレビュアーが利用者のチャットを「読み、注釈を付け、処理」することができるとしているそうです。

Googleはここでフィードバックを集めて、LaMDA2をサービスや製品に展開する準備を進めるようです。
まるでSFのようです。

リンク先の記事では、そこにどんな危惧があるのかを紹介しています。
以下は抜粋です。

「LaMDAは有害な出力や事実上不正確な情報を生成することができる。また、Googleのエンジニアの主張が示唆するように、人間であるかのような錯覚を起こさせる能力を身に付けている。もしLaMDAがGoogleアシスタントを動かすとしたら、どのような影響があるか想像してみてください。人々は、AIモデルの毒性や偏りの犠牲者となり、AIモデルの言うことを盲目的に信じ、Googleのエンジニアに起こったように、AIモデルに愛着を持つようになるかもしれないのです。」

「私たちは、大手ハイテク企業がこうした強力なAIモデルのコントロールを簡単に失ってしまうことを何度も見てきました(GoogleとMetaは、AIモデルの不品行について常に-後付けで-謝罪しています)。彼らでさえLLMの不祥事を正確に予測できないのであれば、素人がLLMと健全に付き合うには、どれほど準備不足なのだろうか。」

「LaMDAは非常に便利ですが、ユーザーの期待に応えられないこともあり、最悪の場合、何らかの形で危害を加えることもあることを彼らは知っています。だからこそ、彼らは改善のためのフィードバックを求めているのです。」

「研究開発から製品化への移行は些細なことではないので、慎重に行う必要があります。このようなAIモデルが世の中に出てくると、企業はそれに対するガバナンスを失います。しかし、安全性の欠如、そして起こりうる悪評さえも利益で補えるのであれば、企業はそれを実行するでしょう。・・・LaMDAが、Googleが設定した製品化のための閾値を超えるかどうかはともかく、LaMDaが、確かに、感覚を持たないことは、自分で評価できるかもしれない。」

難しくてよくわからないですが、世の中にリリースされたら大きな影響力を持つことになるのでしょう。
「皇帝の新しい心」とか読むと、もっとおもしろく理解できるのかな。

Google Is Making LaMDA Available >>

グーグルのAI「LaMDA」の“意識の存在”を巡る議論が意味すること | WIRED >>

LaMDA: our breakthrough conversation technology | Google

aidontknowさんが作成したボウイの「Space Oddity」と「Starman」のミュージックビデオ。
歌詞を一節ずつAIに入力し、映像のイメージを生成していったそうです。
この制作プロセスにおいて、aidontknowさんによる変更と影響は最小限にしているそうです。
いろんな意味ですばらしいです。ボウイファンにも受け入れられる気がします。

以下はリンク先の記事からの抜粋です。

「この技術の真のキラーアプリケーションは、デヴィッド・ボウイの音楽アーカイブの中に眠っているのだと確信するほど、完璧な出来栄えだった。」

「Midjourney、Dall-E、Stable Fusionのような企業は、いつの日か不気味の谷から離れ、本物と同じくらい説得力のある完璧なストックフォトを無限に提供できるでしょう。しかし、この急成長には大きな負の側面があります。これらのツールは基本的に、AIライセンス料を受け取っていないデザイナーや写真家の既存の作品を採掘しています。」

「時には、AIが言葉の文字通りの解釈でエラーを起こすこともありました。・・・・ボブ・ロスなら言うでしょう。”間違いはありません。ハッピーアクシデントです。”」

AI was made to turn David Bowie songs into surreal music videos >>

Letter_in_Support_of_Responsible_Fintech_Policy

新しいテクノロジーのトレンドには、投機的な勢いをつけようとするPRがあると思います。
PRがそのテクノロジーを正しく伝えているのなら良いのですが、必ずしもそうではなさそうです。

1500人のコンピュータ科学者、ソフトウェアエンジニア、テクノロジストが米議会指導部、各委員会委員長・少数党筆頭委員に送付した「Letter in Support of Responsible Fintech Policy」という公開書簡の翻訳です。

この公開書簡も何かのPR活動の一部かもしれませんが、Web3について冷静になれる記事です。いくつか抜粋です。

「暗号資産業界と経済的利害関係のある人々が、これら技術はポジティブな金融イノベーションを生み出し、一般市民が直面している金融問題を解決してくれるものだと喧伝していることに、私たちは強く反対しています。」

「構築できるものが、構築すべきものであるともかぎりません。テクノロジーの歴史は、行き詰まり、見切り発車、間違った方向転換に満ち満ちています。」

「ブロックチェーン技術はその設計上、現時点でも将来的にも、社会のためになるとして喧伝されているほぼすべての目的に適してはいません。ブロックチェーン技術はその誕生以来、現時点では何の役に立つのかわからないソリューションであり続け、その存在を正当化するために金融包摂やデータの透明性といった概念にしがみついたのです。」

「ブロックチェーン技術の実経済的な用途はほとんど期待できません。一方、その基盤たる暗号資産は、不健全で変動の激しい投機的な投資スキームの手段となっており、その性質やリスクを理解できない個人投資家に積極的に宣伝されています。」

「私たちは、暗号資産がもたらす深刻なリスクから投資家と世界の金融市場を守るために今すぐ行動する必要があり、技術的実用性の絶望的な欠落を覆い隠す技術的難解さにごまかされてはなりません。」

よく言われる「Web3業界」というのがもうWeb3の理想から外れている気がしているし、「Web3業界の中心」は存在しない場所のような気がします。

クリプト・Web3業界の誇大広告に踊らされてはならない:1500人超の科学者・エンジニア・技術者が米議会に警告 >>

2022に注目される10のブレイクスルー技術

MIT テクノロジーレビューによる毎年恒例の「ブレイクスルー・テクノロジー10選」。今後数年間で世界に最も大きな影響を与える技術の進化を紹介しています。今年で21年目だそうです。
どれも社会を大きく変える可能性がありそうです。

パスワードの終焉

何十年もの間、私たちはオンラインで何かをするためにパスワードを必要としてきました。しかし、新しい認証方式によって、ついにパスワードが不要になります。その代わりに、電子メール、プッシュ通知、生体スキャンなどによって送られてくるリンクが使われるようになります。これらの方法は、顔を覚える必要がなく簡単であるだけでなく、より安全である傾向があります。

コロナウイルス変異のトラッキング

パンデミックにより、ゲノム解読への投資がかつてないほど行われ、世界中でこの種のモニタリングの能力が劇的に拡大しました。監視の強化により、科学者はコロナウイルスを追跡し、新しい亜種を迅速に発見して警告することができるようになりました。

長寿命なグリッドバッテリー

私たちは、これまで以上に再生可能な電力を利用しています。しかし、太陽が沈んだり、風が止まったりしたらどうなるのでしょう?送電網の運営者は電気を蓄える方法を必要としています。鉄を主成分とする新しい電池は、その役割を果たすかもしれません。鉄を主成分とする新しい電池は、豊富な材料を使って作られており、他のタイプの蓄電池よりも安価で実用的である可能性があります。

タンパク質の構造をAIで実現

私たちの身体は、ほとんどすべてのことをタンパク質で行っています。そして、タンパク質の構造は、その活性を決定します。しかし、タンパク質の構造を解明するには、何ヶ月もかかることがあります。AlphaFold2と呼ばれるAIが、この長年の生物学的パズルを解いたことで、さまざまな病気の治療薬を迅速に設計できるようになるかもしれません。

マラリアワクチン

マラリアは年間60万人以上の命を奪っており、そのほとんどが5歳以下の子どもたちです。世界保健機関(WHO)が承認した新しいマラリア・ワクチンは、毎年何十万人もの命を救うのに役立つ可能性があります。

プルーフ・オブ・ステーク

ビットコインのような暗号通貨は膨大な電力を使用します。これは取引の検証方法によるもので、かなりのコンピューティングパワーを必要とします。「プルーフ・オブ・ステーク」は、それほど多くのエネルギーを使わずに取引を検証する方法を提供します。イーサリアムは今年中にこのシステムに移行する予定で、エネルギー使用量を99.95%削減することができます。

コロナに効く飲み薬

ファイザー社の新薬は、最新の亜種を含むコロナウイルスに対して効果的かつ広範囲な防御を提供する。現在、他の企業も同様の薬を開発している。ワクチンと組み合わせることで、これらの錠剤は世界が最終的にパンデミックから脱却する方法を提供する可能性があります。

実用的な核融合炉

カーボンフリーの無限の電力が期待できることから、研究者たちは何十年にもわたって核融合発電の実現に挑んできた。現在、ある新興企業が2030年代初頭までに、この電力を送電網に供給することを計画している。その設計は、記録を塗り替えた強力な新しい磁石に依存しており、その会社はより小型で安価な原子炉を建設することができるはずです。

AIのための合成データ

AIを鍛えるには、膨大なデータが必要です。しかし、そのデータは雑多であったり、現実世界の偏りを反映していたり、含まれる情報にプライバシーに関する懸念がある場合が多い。こうした問題を回避するために、合成データを作成・販売する企業も出てきています。完璧ではありませんが、AIを訓練するためのより良い方法となるかもしれません。

二酸化炭素除去工場

排出量を削減することは、気候変動を緩和するための重要なステップです。しかし、国連によれば、それだけでは十分ではありません。将来の壊滅的な温暖化を避けるためには、空気中の二酸化炭素を除去することも必要なのです。そのための世界最大の炭素除去工場が、最近アイスランドにオープンしました。

11番目のブレークスルーの投票も募集しているようです。

2022 10 Breakthrough Technologies >>

人間の目を通した世界をAIに学ばせるプロジェクト

本当に役に立つAIを作るために、ネット上の画像から学ばせるのではなく、生活する人間の視線(文字通り一人称視点の動画素材)から学習させるプロジェクトだそうです。
Facebook AI Research が世界の13の大学と協力して史上最大の一人称映像のデータセットを作成してます。

「機械は、人間の目を通して世界を本当に理解してこそ、私たちの日常生活を助けることができるのです」

「このデータセットの映像は、人間が世界を観察する方法にかなり近いものです」

収集された一人称映像データセットは、9カ国(米国、英国、インド、日本、イタリア、シンガポール、サウジアラビア、コロンビア、ルワンダ)の73の異なる場所で855人が記録した3025時間のビデオから構成されています。

映像が収集されたあと、ルワンダのクラウドワーカーは、何千ものビデオクリップを合計25万時間かけて見て、撮影されたシーンや活動を説明する何百万ものテキストを書き込みました。これらは、見ているものをAIに理解させるために利用されます。

おもしろいことになりそうなプロジェクトですが、ここで問題視されているのは、Facebookがユーザーのプライバシーへの配慮を欠いていて、広告主へデータを売ってしまってきたことのようです。Facebookはこのプロジェクトについて、幅広い科学コミュニティの発展を促進するための純粋な研究であり、製品への応用や商業利用については、現在のところ何も計画がないとコメントしてるそうです。

Facebook wants machines to see the world through our eyes >>

2021年10月18日 テクノロジー

Appleの検索エンジンはGoogleとは違うビジネスモデルになるかも

あくまで噂話のレベルのようですが・・・
iOS14から部分的に稼働されたApple自社製の検索エンジンは、Googleのような広告ベースのビジネスモデルを目指していないようです。
Appleのデバイス、Appleのサービス、Applrのサブスクリプションの収益を最大化させるための検索エンジンになりそう。
このビジネスモデルの場合には、ユーザーのプライバシーについての問題も回避できるようそうです。

このApple検索でGoogleの支配が終わることないでしょうが、もしApple検索がiPhoneユーザーに浸透したら、ネット広告業界は大きく変わっていくことになるかもしれないそうです。
iPhoneユーザーの検索行動がGoogleから見えなくなるなら・・・ネット広告のバランスも変わってくるかも。

Appleは「自社製」を増やしていく方針のようで、これから大きく変わってく気がしてます。

Why an Apple search engine has a real shot at competing with Google >>

Apple、Google検索に代わる独自検索エンジンを開発中か──Financial Times報道 >>

2020年12月16日 テクノロジー

イスラエルのプライバシー関連のスタートアップ企業『D-ID』のサービスだそうです。
どういう技術でネット上や防犯カメラの動画を「再合成」するのかわかりませんが、ヨーロッパのGDPRを曲解したうえで違反してるサービスだと議論を呼んでるようです。

「D-ID独自のアルゴリズムは、最先端の画像処理とディープラーニング技術を組み合わせて、特定の写真を保護されたバージョンに再合成します。 D-IDで保護された写真は、反顔認識ソリューションとして機能し、顔認識アルゴリズムでは認識できません。 しかし、人間は違いに気付かないでしょう。 」

B級SFのようなテクノロジー・サービスですが、マーケティングとか世論形成とかで悪用されそうな気もします。
悪用されていることに気づくことすらできないかも。

元記事はこちら

D-ID >>

biggest_threat_of_deepfakes_isnt_the_deepfakes_themselves

「ディープ・フェイクは権力者の新しい武器になります。権力のない人々が腐敗を示すために提示しようとしている証拠を『それはフェイク・ニュースだ!』と言えるようになることです。」 

ディープ・フェイクが簡単にできるようになるとニセモノであることを立証するために膨大な手間とコストが掛かるようになるそうです。
でも、本当の問題は、本物を本物であると証明するためにはさらに膨大なコストが掛かること。
さらに、本物を一般大衆に本物だと認識してもらうことが著しく困難になることだそうです。

メディアリテラシーが大切とされますが、ディープフェイク後の社会では、自分が受け取る情報のすべてを疑ってみる必要があるようです。

情報の検証をユーザー負荷にしないように、「オリジナル」であることを立証できるインフラが必要になるのかもしれません。ブロックチェーンとかがもっと利用されるようになるのかな。

The biggest threat of deepfakes isn’t the deepfakes themselves | MIT Technology Review>>
https://www.technologyreview.com/s/614526/the-biggest-threat-of-deepfakes-isnt-the-deepfakes-themselves/

how-an-mit-research-group-turned-computer-code-into-a-modern-design-medium

80年代にグラフィックデザイナーのミュニエル・クーパーがMITで行ったワークショップが発端となったようです
そこから現在のp5.jsに至るまでの、John Maeda、David Small、Lisa Strausfeld、Golan Levin、Ben Fry などによる講演のような、思い出話のような、興味深い内容です。

MITでのことなので、当初はグラフィックデザインの勉強もあまりしてなかったらしく、著名なグラフィックデザイナーから酷評されたこともあるようです。

「コンピューターはデザインの未来だと言い続けていました。」

「あなたが何をしているのかわかりませんが、グラフィックデザインではありません。」
(マイケル・ビアラットのこの指摘は正しいとも言えそうです。)

「ソフトウェアを芸術やデザイン教育に統合する方法を変えたかったのです。学校が生徒にPhotoshopやIllustratorの使い方を教える方法は完全に表面的なものであり、新しいメディアの可能性を模索することさえしなかったと思いました。単にツールとして使用するのではなく、メディアをより深く理解してもらいたかったのです。」

「多くの人は、画像を生成するためにコードを書かなければならないことは、実際にそれを行うツールを持つことから大きく後退していると言うでしょう。しかしジョンは、自分で絵具を混ぜたり素材で作業したりする方法を知らない画家はいないという考えでした。」

きっと先駆者としてのミュニエル・クーパーの先見性は素晴らしいものだったのでしょう。
競争ではなく共有によって発展してきたことも素晴らしいことだと思います。

いままた、ツールと制作者とコミュニティの関係には新しい問題が起きているようです。

How Computer Code Became a Modern Design Medium—an Oral History | Eye On Design>>

Muriel Cooper | Wiki >>

ヒーリングビデオのようなナレーションで facebookやinstagramの世界とWordPressの世界の違いを語りかけてきます。
ちょっと騙されているような気にもなりますが、語っている内容は正しい気がします。

WEBはオープンなものとして始まりましたが、そこに登場したSNSなどのサービスは、それまでオープンだったWEBを限定的に「閉じる」ことでサービスを提供して、ユーザーのコミュニティを形成しました。
この閉じたコミュニティをブランドにしたうえで、セグメント、格差、競争などを展開することで利益を生むようになったと思ってます。
もちろん、SNSはその利便性で恩恵ももたらしてくれます。

SNS以前に登場したWordPressは、WEBがオープンであることが前提だった時代のものでしょう。この前提条件はWEBにとって大切なことだと思っています。
これからも、失われないことを願ってます。

このサイトもWordPressを利用しています。