「AIがブラジャーを追加したことを警戒すべき」

エリザベス・ララキはUI/UX分野の第一人者で、次回登壇するカンファレンスの主催者に経歴や顔写真などを提出しました。
プロモーションツールの制作過程で、レイアウトを変更して写真素材の矩形を変更するためにAIツールを使ったところ、シャツのポケットを消去して、胸元にブラが見えるような補正がされてしまったようです。
このエピソードを通じて、ララキさんがAIツールについて抱くようになった警戒感についての記事です。
UI/UXのエキスパートらしい考え方のような気がしました。

「AIは、女性のシャツはさらにボタンを外し、ボタンの周りに張りを持たせ、下にあるものを少し見せるべきだと考えたのです。」

「この奇妙なエピソードにもかかわらず、ララキはAIツールの普及に興奮していることを認め、ソーシャルメディア・マネージャーがこの手間のかかる作業にAIを使った理由を完全に理解している。」

「個人的には、AIにまつわる私の最大の不安、つまり、AIがどのように機能するのかが本当にわかっていないことを再認識させられた。何が入力されるかはわかっている。何が出てくるかはわかっている。その間に何が起こるのかは謎だ。」

「しかし、この経験は、なぜトレーニングデータが重要なのか、なぜツールの設計が重要なのか、そして最も重要なのは、なぜこれらのツールをどのように使うのかが重要なのかということに、私の目を開かせた。」

「ここで重要なのは警戒心だ。ララキがAIの 「破滅的外挿」と呼ぶような、SF的ストーリーの悪夢のようなシナリオに気を取られがちだ（念のため言っておくが、万が一そのような事態が起こったとしても、私は新しいロボットの支配者を歓迎する）。この話が力強いたとえ話になっているのは、一見無邪気だからだろう。カンファレンスの広告用のヘッド写真にちょっと手を加えただけ。ソーシャルメディア・マネージャーが賢いツールを使って時間を節約した。しかし、小さなことが重要なのだ。それらは、例えばロボットの侵略よりも簡単にレーダーの下をすり抜ける。奇妙な異常値が受け入れられるようになる。私たちの合理的と思われる感覚は変化する。」

AIツールは21世紀を方向づける素晴らしい大発明だと思っていますが、警戒するポイントが少し違っているような気がしています。
たかがプロモーションツールでも、そこでデザイナーが扱っているのは実在する個人の情報です。
AIに個人の情報を投げ込むことには、もっと倫理観があるべきと思っています。

スマホやPCの画面に向かっている時に無意識のうちに、自分がオーダーする側でスマホやPCを通して何かを受け取る気になっているなら、あなたが利用しているのはツール（道具）ではなくサービスです。
サービスを利用している時、そのサービスのレスポンスが速ければ速いほど、利用者は便利に感じて万能感を得て、そのサービスをリピートするようになるでしょう。
この万能感が利用者の倫理観を希薄にしているのかもしれません。UI/UXはこの万能感の演出をしているかもしれません。

また、プロモーションツールを制作するデザイナーも実在する個人です。
短い日程で変更に次ぐ変更が重なれば、倫理観を薄くして便利なAIツールを利用したくなるでしょう。
ここで警戒すべきは、SF的ストーリーの悪夢のようなAIツールではなく、そのような日程と変更になってしまった現実の要因でしょう。

We should worry that AI added a bra >>