I'm talking at a conference later this year (on UX+AI).
I just saw an ad for the conference with my photo and was like, wait, that doesn't look right.
Is my bra showing in my profile pic and I've never noticed…? That's weird.
I open my original photo.
No bra showing.I put… pic.twitter.com/CpoIgiXtUI
— Elizabeth Laraki (@elizlaraki) October 15, 2024
エリザベス・ララキはUI/UX分野の第一人者で、次回登壇するカンファレンスの主催者に経歴や顔写真などを提出しました。
プロモーションツールの制作過程で、レイアウトを変更して写真素材の矩形を変更するためにAIツールを使ったところ、シャツのポケットを消去して、胸元にブラが見えるような補正がされてしまったようです。
このエピソードを通じて、ララキさんがAIツールについて抱くようになった警戒感についての記事です。
UI/UXのエキスパートらしい考え方のような気がしました。
「AIは、女性のシャツはさらにボタンを外し、ボタンの周りに張りを持たせ、下にあるものを少し見せるべきだと考えたのです。」
「この奇妙なエピソードにもかかわらず、ララキはAIツールの普及に興奮していることを認め、ソーシャルメディア・マネージャーがこの手間のかかる作業にAIを使った理由を完全に理解している。」
「個人的には、AIにまつわる私の最大の不安、つまり、AIがどのように機能するのかが本当にわかっていないことを再認識させられた。何が入力されるかはわかっている。何が出てくるかはわかっている。その間に何が起こるのかは謎だ。」
「しかし、この経験は、なぜトレーニングデータが重要なのか、なぜツールの設計が重要なのか、そして最も重要なのは、なぜこれらのツールをどのように使うのかが重要なのかということに、私の目を開かせた。」
「ここで重要なのは警戒心だ。ララキがAIの 「破滅的外挿」と呼ぶような、SF的ストーリーの悪夢のようなシナリオに気を取られがちだ（念のため言っておくが、万が一そのような事態が起こったとしても、私は新しいロボットの支配者を歓迎する）。この話が力強いたとえ話になっているのは、一見無邪気だからだろう。カンファレンスの広告用のヘッド写真にちょっと手を加えただけ。ソーシャルメディア・マネージャーが賢いツールを使って時間を節約した。しかし、小さなことが重要なのだ。それらは、例えばロボットの侵略よりも簡単にレーダーの下をすり抜ける。奇妙な異常値が受け入れられるようになる。私たちの合理的と思われる感覚は変化する。」
AIツールは21世紀を方向づける素晴らしい大発明だと思っていますが、警戒するポイントが少し違っているような気がしています。
たかがプロモーションツールでも、そこでデザイナーが扱っているのは実在する個人の情報です。
AIに個人の情報を投げ込むことには、もっと倫理観があるべきと思っています。
スマホやPCの画面に向かっている時に無意識のうちに、自分がオーダーする側でスマホやPCを通して何かを受け取る気になっているなら、あなたが利用しているのはツール（道具）ではなくサービスです。
サービスを利用している時、そのサービスのレスポンスが速ければ速いほど、利用者は便利に感じて万能感を得て、そのサービスをリピートするようになるでしょう。
この万能感が利用者の倫理観を希薄にしているのかもしれません。UI/UXはこの万能感の演出をしているかもしれません。
また、プロモーションツールを制作するデザイナーも実在する個人です。
短い日程で変更に次ぐ変更が重なれば、倫理観を薄くして便利なAIツールを利用したくなるでしょう。
ここで警戒すべきは、SF的ストーリーの悪夢のようなAIツールではなく、そのような日程と変更になってしまった現実の要因でしょう。
難しくてよくわからない部分が多いです。
でも、いくつか賛同できそうな点がある気がしています。
「ワールドチェーンは人間のために設計された新しいブロックチェーンです。」
「このプロトコルは、カジュアルユーザーのガス代が最終的にボットやパワーユーザーからの手数料で賄われるような均衡を目指す。その間、ワールドコイン財団がスポンサーとなる。」
「無許可でオープンソースであり、最終的にはコミュニティによって独立して管理されることを意図しています。」
「重要なことは、Worldcoin-World IDのユニークなデジタルID-は、ますます高度化する人工知能が存在するオンライン世界において、人間らしさを示す重要な役割を果たすことができるということです。」
「World IDとWLDは、World Chain以外のネットワークでも使用・展開できる中立的な公共財であり続けるということだ。」
AI後の世界では、人であることが重要になるようです。
人と世界の関わり方を変わっていくような「公共財」になり得るとしたら、素晴らしいことのような気がします。
メールのやり取りも公開していて、全面的に争う姿勢のようです。
「袂を分かつ」という感じです。
OpenAIの理想と葛藤がうかがえる気がします。
AGI の構築には膨大なリソースが必要で、それを賄える可能性があるのはGoogleだけのようです。
スケールでGoogleに対抗するのは絶望的なようです。
「実行とリソースに劇的な変化がなければ、OpenAI が DeepMind/Google に関連する可能性は 0% であると私は判断しています。・・・数億集めても足りない。これにはすぐに年間数十億ドルが必要です。」
「openAI のオープンとは、AI が構築された後は誰もが AI の成果から恩恵を受ける必要があることを意味しますが、科学を共有しなくてもまったく問題ありません…」と言うと、イーロンは「そうです」と答えました。」
「今日の OpenAI は現金を浪費しており、その資金調達モデルは Google (800 億企業) と真剣に競争できる規模に到達できないように思えます。真剣に競争できないのに公開で研究を続けている場合、実際には状況を悪化させて「無料」で彼らを支援している可能性があります。なぜなら、進歩したものはコピーしてすぐに大規模に組み込むのが非常に簡単だからです。」
「製品をゼロから構築することは AI 研究の焦点を奪い、長い時間がかかり、企業が Google の規模に「追いつく」ことができるかどうかは不透明であり、投資家は間違った方向に過度の圧力をかける可能性があります。私が思いつく最も有望な選択肢は、先ほども述べたように、OpenAI がドル箱として Tesla に所属することです。」
「私たちは、個人が OpenAI を完全に制御することは使命に反すると感じたため、Elon と営利契約の条件に同意することができませんでした。」
「Elon 氏は、Google/DeepMind に関連する競合他社が必要であり、自分でそれを行うつもりであると述べ、OpenAI を去りました。彼は、私たちが自分たちの道を見つけるのを応援すると言いました。」
AIが誰かのコントロール下にあることを拒むOpenAIの姿勢は素晴らしいと思います。
『誰もが AI の成果から恩恵を受ける』のも重要なことだと思います。
でも、ツールとしてのAIがブラックボックスになることはディストピアな気もします。
上記の動画を生成したプロンプトだそうです。
A stylish woman walks down a Tokyo street filled with warm glowing neon and animated city signage. She wears a black leather jacket, a long red dress, and black boots, and carries a black purse. She wears sunglasses and red lipstick. She walks confidently and casually. The street is damp and reflective, creating a mirror effect of the colorful lights. Many pedestrians walk about.
これまでAIで生成された動画に特有の「奇妙さ」「グロテスクさ」が少なくなってます。背景の群衆が個別に違和感なく歩いてるのがすごいです。
Soraのオフィシャルサイトには下記のように書かれています。詳しく解りませんが説得力があります。
「Soraは、複数のキャラクター、特定の種類の動き、被写体や背景の正確な詳細を持つ複雑なシーンを生成することができます。このモデルは、ユーザーがプロンプトで求めたものだけでなく、それらが物理的な世界にどのように存在するかも理解します。これまでのモデルには弱点があります。複雑なシーンの物理を正確にシミュレートすることに苦労し、原因と結果の具体的な例を理解できない可能性があります。例えば、人はクッキーを齧るかもしれないが、その後、クッキーには齧った跡がないかもしれない。」
Soraのオフィシャルサイトには「安全性」というセクションもあります。
「私たちは、世界中の政策立案者、教育者、アーティストを巻き込み、彼らの懸念を理解し、この新しいテクノロジーのポジティブな使用例を特定します。広範な調査とテストにもかかわらず、私たちは人々が私たちのテクノロジーをどのように使用するか、またどのように悪用されるかをすべて予測することはできません。だからこそ私たちは、実際の使用例から学ぶことが、時間をかけてより安全なAIシステムを作り、リリースしていく上で重要な要素であると考えています。」
新規性や自分たちの技術のアピールではなく、この段階で安全性を前面に出すことは企業の姿勢として公正さと信頼感があると思います。
こういった姿勢を取れないテクノロジーは淘汰されることになるかも。
日本の企業ではとても追いつけないくらい先を進んでいる気がします。
サービスとしてローンチされたのではなく、技術紹介として発表したものです。
テキストからAIで生成された動画はこれまでもありましたが、より一貫性のある動画を生成できるようです。
元動画を変換するのは楽しいツールになるかもしれませんが、テキストから生成される動画は著作権の問題もあって、仕事では使いどころがなさそうな気がします。
技術に詳しい人なら、また違う可能性を見つけるのかも。
「LUMIERE」ってネーミングは気に入りました。
Lumiere >>
https://lumiere-video.github.io/
興味深い記事です。
AIのアウトプットを人が作った作品として提示するのは、パロディだとしてもやめた方がよさそうです。
カリフォルニアで3人のアーティストがStable Diffusion、Midjourney に対して
「何百万人ものアーティストの権利を侵害する21世紀のコラージュツールであり、作品市場に実質的な悪影響を与えている。」
として訴訟を起こしているそうです。
裁判で著作権侵害を主張するには1対1で作品を比較して検証することが前提になっていて、現在の著作権法はAIによる著作権侵害に対処する能力を備えていないという意見があるようです。
現在のところ、AIを使って制作された作品には著作権は認められないとされています。
こういったAIプラットフォームを運用することの合法性についても疑問視されているそうです。
以下は記事からの抜粋です。
「現行の（米国の）著作権法は、誰が何を所有するかという概念を容易に決定できた時代に制定されました。
影響力とアウトプットがより曖昧なAIの時代に、創作と所有権の問題は複雑になっていて、この裁判を難しくしています。」
ある弁護士によると・・・
「1年前と比べると、巨大なテック企業が同意もクレジットも補償もなしに、人間が創作した作品にAIをトレーニングさせることには法的・倫理的問題があるという考えが、より広く受け入れられていると思います。・・・最終的には、生成AIは人間が作成したデータに依存するため、これらの企業はクリエイティブ産業と協力することを好むと思います。AI企業が人間のクリエイターを破産させれば、彼ら自身もすぐに破産するからです。」
また別の弁護士は・・・
「この集団訴訟の理論は、アーティストにとって非常に危険です。たとえ最終的な結果が実質的に類似していなくても、他人の芸術のいかなる側面でも自分の作品に取り入れ二次的著作物を創作したと裁判所を説得すれば、好きなアーティストの目の描き方をコピーするようなありふれたことでも、法的な危険にさらされる可能性がある。」
また、ゲッティイメージズも
「ゲッティイメージズの知的財産を驚異的な規模で堂々と侵害している 」
としてStability AI社を法廷に提訴しているそうです。
いつか、制作物はNFTになってることが必須になって、作者が実在の人間であることを証明することも必要になるのかも。
The future of art is in AI’s hands >>
Judge Appears Likely to Dismiss AI Class Action Lawsuit by Artists >>
これがいつかフランス革命の人権宣言のような歴史的なドキュメントになるのかも。
スーパーインテリジェンスは、これまでのどのテクノロジーも超える能力を持つと考えられています。
これには、原子力のIAEAのような規制や基準が必要になるとのことです。
ただし、スーパーインテリジェンスほどの重大な能力に至らないAIモデルの開発には、規制や基準を適用しないことも重要であるとも言っています。
これはスーパーインテリジェンスへの注目が薄れないようにするためだそうです。
「スーパーインテリジェンスの創造を止めることは危険であり、困難であると私たちは考えています。利点が非常に大きく、それを構築するコストは年々減少し、それを構築する主体の数は急速に増加しています。それは本質的に私たちが進んでいる技術的な道の一部であり、それを阻止するには世界的な監視体制のようなものが必要になるでしょう。それさえも動作する保証はありません。したがって、スーパーインテリジェンスを正しく理解する必要があります。」
ガバナンスの導入には公的機関が必要で、限界とデフォルトを民主的に決定すべきとしています。
その通りだと思います。
すごくSF的な話のようでもあるし、テクノロジーと人の関係のよくある話のようにも聞こえます。
デンマークのbe my eyes社は、GPT-4の画像認識能力を利用して「バーチャル・ボランティア」という、送られてきた画像に関する質問に答えるアプリだそうです。
これまでにも同様のアプリはあったようですが、
「ミスが多かったり、会話ができなかったりと、市販のツールでは、私たちのコミュニティが抱える多くのニーズを解決することはできませんでした。」とのことです。
新しい機能は人間のボランティアと同レベルの文脈と理解を提供できるそうで、視覚障害者のユーザーから好評のようです。
be my eyesではこれまで、人間のボランティアのみでユーザーをサポートしていました。
ユーザーが期待するような答えを得られなかったり、人間の対応の方が望ましい場合には、ボランティアに依頼することもできるそうです。
与えられた新しいオモチャで遊んでいるだけでなく、役に立てるニーズを見つけた方が良さそうです。
New GPT-4 app can be ‘life-changing’ for visually-impaired people, say users >>
YouTubeの新しいCEOニール・モーハンが書簡でYouTubeの今後の方針を発表しました。
その中でAIを活用した編集機能を準備中だと伝えています。
書簡全体としては、コミュニティを大切にしながら、クリエイターに利益とツールを提供して、YouTube市場を活性化させようというストーリーのようです。
以下は、リンク先からの抜粋です。
「YouTubeは、クリエイターが視聴者と深い関係を築き、好きなことで生計を立てるためのツールをより多く提供することを支援します。」
「クリエイターが求めているのは、単にアップロードできる場所だけではありません。Shorts、ライブ、ポッドキャストなど、さまざまな分野で意欲を高めていくための洗練されたツールが必要なのです。」
「動画を改革し、不可能と思われることを可能にするような方法で、AIの力が発揮され始めたところです。クリエイターは、AIのジェネレーティブな機能によって、仮想的に衣装を入れ替えたり、幻想的な映画の舞台を作ったりと、ストーリーテリングの幅を広げ、制作価値を高めることができるようになるのでしょう。」
新CEOのニール・モーハンさんは広告プロダクトのエキスパートだったようです。
これから広告収益が減りそうなGoolgeにとっては、なんとか死守したいところでしょう。
ChatGPTの生みの親のインタビュー記事。
煽っているようなタイトルですが、インタビューは真っ当で中道な印象です。
AIの未来は地獄でも天国でもなさそうです。
いくつか抜粋です。
「この分野は1つの企業にとっては大きすぎると思いますし、私はここに本当のエコシステムが生まれることを期待しています。」
「私がAIに期待しているのは「ウェブにアクセスして検索クエリを入力する体験をどう変えるか」ではなく「これまでとはまったく違う、もっとクールなやり方がないのか？」ということです。」
「AGI（Artificial General Intelligence：人の知能を完全に再現した機械）の誕生はそれほど明確な瞬間にはならないということです。いわゆるスローテイクオフという緩やかな移行になると思います。」
「もしAGIが本当に完全に実現したら、さまざまなかたちで資本主義を破壊すると思います。・・・もし本当にAGIが実現したなら、これまでとは異なる企業の仕組みが必要になるでしょう。私は、1つの会社が世の中のAIユニバースを所有するべきだとは思っていません。」
「私がOpenAIを誇りに思っていることの1つは、AGIの「オヴァートンの窓（多くの人に尊重すべきのものとして受け入れられる政治的な考え方の範囲）」を、健全だと思えるやり方で押し広げることができたということです。時に不快な印象を与えたとしても。」
「今後もオープンソースを続けていきます。」
サム・アルトマンは、メディア露出は控え目なようです。
最近はマイクロソフトとの仕事に多くの時間を使っていたみたいです。
© 2025 DESIGNERS UNION | ご自由に投稿できます。 お気軽にご利用ください。