# AIの経済的盲点とAI拡張

私たちはしばしば人工知能を客観性の力、人間の能力を超えてパターンを認識し結論を導き出すツールとして称賛します。しかし、その視界が曇ったとき何が起こるのでしょうか？最近の研究は、憂慮すべき真実を明らかにしています。特にコンピュータビジョンの領域において、AIは重大な「経済的盲点」に苦しんでいます。

:brain:[AI拡張](https://viadean.notion.site/AI-AI-1c11ae7b9a328010a3f7c12b9ed5773d?pvs=4)

住宅の画像を分類するシステムを想像してください。理論上、それは単に見えたものをラベル付けするはずです。しかし、研究は、これらのシステムが低い社会経済的背景からの画像を分析する際、著しく性能が低下することを示しています。精度は急落し、信頼性は揺らぎ、そして憂慮すべきことに、否定的または攻撃的なラベルを割り当てる可能性が高まります。

これは単なる理論上の問題ではありません。その影響は広範囲に及びます。自動化された住宅評価や都市計画のような応用を考えてみてください。AIシステムは、地域社会に直接影響を与える決定を行うためにますます使用されています。これらのシステムが本質的に偏見を持っている場合、既存の社会的不平等を永続させ、さらには増幅させるリスクがあります。

問題は古いAIアーキテクチャに限ったことではありません。より洗練されるように設計された最先端のモデルでさえ、この経済的盲点を示します。彼らは、しばしば曖昧または回避的な説明に頼りながら、貧しい地域からの画像を正確に分類するのに苦労します。

さらに、より深く、より微妙な偏見が存在します。これらのシステムは、裕福な場所からの画像を肯定的な概念と関連付けることが多く、貧しい地域からの画像を否定的な概念と関連付けます。この暗黙の偏見は、明白ではありませんが、同様に懸念されます。

なぜこのようなことが起こるのでしょうか？答えは、部分的には、これらのシステムを訓練するために使用されるデータにあります。データセットはしばしば偏っており、裕福な地域を過剰に表現し、資源の少ない地域を過小に表現しています。人間の偏見は、不注意にラベル付けプロセスに埋め込まれ、問題をさらに悪化させます。

解決策は、単に「より良い」アルゴリズムを構築することではありません。私たちは、AIシステムを作成し訓練する方法を根本的に再考する必要があります。多様で代表的なデータセットを優先する必要があります。私たちは、私たちの技術に必然的に浸透する人間の偏見を認識し対処しなければなりません。

AIの約束は、より公平で平等な世界を創造する可能性です。しかし、私たちがその経済的盲点に対処しなければ、技術が既存の不平等を解消するのではなく、強化する未来を創造する危険性があります。

<figure><img src="https://2907506351-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2FcRbkePFdnJDPsCNQ6qJj%2Fuploads%2F7NhVhda5hg7lcG1MhXhg%2FAI%E3%81%AE%E7%B5%8C%E6%B8%88%E7%9A%84%E7%9B%B2%E7%82%B9.svg?alt=media&#x26;token=cd54afca-dd81-4d1e-8341-b996dcaf4405" alt=""><figcaption></figcaption></figure>
