
最近、現代の機械学習システムを「ブラックボックス」と呼ぶのをよく耳にするようになりました。 例として、Sam Harris のポッドキャストの最近のエピソードで、彼が AI のパイオニアである Stuart Russell にインタビューしたものを考えてみましょう。 Harris は次のように尋ねます。「私が間違っていなければ、これらの深層学習アプローチ、あるいはより一般的な機械学習アプローチのすべてではないにしても、ほとんどは本質的にブラック ボックスであり、アルゴリズムが何を達成しているかを実際に検査することはできません」
この比喩はいくつかの特定の状況には適切ですが、実際には一般的にはかなり誤解を招き、相当量の混乱を引き起こす可能性があります。 これから説明するように、深層学習システムはブラック ボックスではありませんし、そのようなシステムの開発でさえもブラック ボックスである必要はありません。 しかし、本当の課題は、この両者が複雑であり、必ずしもよく理解されていないことです。
以下で説明するように、混乱は少なくとも部分的には、これらのシステムがどのように機能するかについて人々が抱いている誤解から生じていると私は考えています。 人々がブラック ボックスの比喩を使うとき、彼らが表現しているのは、機械学習モデル内のさまざまなコンポーネントの目的を理解することが難しいという事実です。 これは確かに難しいことですが、私はそれが非現実的な期待であることも主張したいと思います。 その過程で、モデルとその学習方法の違いを説明し、ブラックボックスのメタファーが適切なシナリオを議論し、多くの点で、少なくとも機械学習に関する限り、人間が本当のブラックボックスであることを示唆したいと思います。 これは決して些細な問題ではありませんが、これについて考える少なくとも2つの特に関連した方法があるようです。
私たちが誰かに何かをした理由の説明を求めるとき(「なぜXをしたのですか」)、私たちはある背景仮定のセットで操作しています。 慎重に行われた決定の場合、私たちは通常、彼らがそのように行動する何らかの正当な理由があったと仮定しており、基本的に、彼らが決定を下すために使用した推論プロセスを求めているのです。 たとえば、長所と短所を比較検討し、ある特定の結果につながることを期待して行動を選択したと予想されます。
対照的に、何かがうまくいかなかった理由を尋ねる場合、私たちは代わりに失敗の事後的な説明のようなものを求めているのです。 たとえば、自動車事故の後、何が事故を引き起こしたかについて説明を求めることがあります。 ドライバーの注意力散漫か? 他の車が原因でハンドルを切ったのか? 1365>
人々が人工知能について考えるとき、一般に最初の種類の説明を念頭に置いているようです。 システムが熟考を重ね、予想される結果に基づいて行動方針を選択することが期待されているのである。 これが可能な場合もありますが、次第に、2 番目のケースに近い、つまり、刺激を受け取ってから反応するだけのシステムへと移行しつつあります。 それを念頭に置いて、モデルとは何を意味するのか、ブラックボックスのメタファーについて掘り下げてみましょう。
ボックスとモデル
ブラックボックスのメタファーは、サイバネティックスと行動主義の初期に遡り、通常、入力と出力のみを観察でき、内部動作は観察できないシステムを指します。 実際、B.F.スキナーが一般に心を概念化したのもこの方法であった。 彼は、ある種の学習行動が、特定の入力を特定の出力に結びつける強化信号によって説明できることを示すことに成功しましたが、その後、この理論が言語を含む人間のすべての行動を簡単に説明できると考えたのは有名な誤りです。…


Farmers Marketにおける新鮮な豆の販売はケンタッキーの商用面積の大半を占めます。 その他の生鮮市場には、地域支援農業(CSA)の定期購入、農産物オークション、U-pick、ロードサイド・スタンドなどがあります。 食用サヤエンドウは、地元で経営されている食料品小売市場への販売も選択肢のひとつとなります。 イングリッシュエンドウは、ケンタッキー州の商業用野菜生産ではマイナーな存在です。 多くの消費者に人気がありますが、収穫に多大な労力を要するため、大規模な生産には機械収穫が必要です。 ケンタッキー州のほとんどの生産者にとって、イングリッシュエンドウは、ダイレクトマーケットの作物構成に風味と多様性を加えるための早生作物として、最もよく利用されます。 シュガースナップエンドウは、いくつかのダイレクトマーケットで特に人気があります。 一方、生食用のポッドエンドウは、アジアやその他のエスニック料理によく使われ、ファーマーズマーケットの人気商品となっています。 この人気の背景には、さまざまな種類の健康的な料理への消費者の関心や、エスニック料理への関心が高まっていることが考えられます。
商業卸売生産に使用されているほとんどのエンドウ品種は機械収穫で、自立し、植物の上部近くに大きな房のエンドウマメがある確定習性を持つ傾向があります。 葉の枚数が多く、葉の厚い品種と、葉がほとんどなく、代わりに巻きひげを形成している品種がある。 葉のない品種は、収穫が容易なため、卸売りに向いている。 不定形種は、小規模な栽培によく使われます。 この品種は二列でも一列でも植えることができ、二列では互いに支え合うことができる。 しかし、3フィート以上の高さの不定形品種は、支柱を立てる必要がある。 トレライジングは、さやが地面につかないようにし、空気の循環をよくすることで、収量と品質を向上させることができます。 トレライジングは、労働力と投入コストを増加させます