OpenAIからのスーパーインテリジェンスの規制についての提案

これがいつかフランス革命の人権宣言のような歴史的なドキュメントになるのかも。

スーパーインテリジェンスは、これまでのどのテクノロジーも超える能力を持つと考えられています。
これには、原子力のIAEAのような規制や基準が必要になるとのことです。

ただし、スーパーインテリジェンスほどの重大な能力に至らないAIモデルの開発には、規制や基準を適用しないことも重要であるとも言っています。
これはスーパーインテリジェンスへの注目が薄れないようにするためだそうです。

「スーパーインテリジェンスの創造を止めることは危険であり、困難であると私たちは考えています。利点が非常に大きく、それを構築するコストは年々減少し、それを構築する主体の数は急速に増加しています。それは本質的に私たちが進んでいる技術的な道の一部であり、それを阻止するには世界的な監視体制のようなものが必要になるでしょう。それさえも動作する保証はありません。したがって、スーパーインテリジェンスを正しく理解する必要があります。」

ガバナンスの導入には公的機関が必要で、限界とデフォルトを民主的に決定すべきとしています。
その通りだと思います。

すごくSF的な話のようでもあるし、テクノロジーと人の関係のよくある話のようにも聞こえます。

Governance of superintelligence >>