最小二乗法、解法の練習とそれが果たすもの

の方法 最小二乗 は関数の近似において最も重要なアプリケーションの1つです。アイデアは、順序付けられたペアのセットが与えられると、この関数がデータをより良く近似するような曲線を見つけることです。関数は線、二次曲線、三次曲線などです。.

この方法のアイデアは、選択された関数によって生成された点とデータセットに属する点との間の、縦座標（成分Y）の差の二乗和を最小にすることです。.

索引

• 1最小二乗法
• 2練習問題が解決しました
  • 2.1演習1
  • 2.2演習2
• 3それは何のためですか？?
• 4参考文献

最小二乗法

この方法を説明する前に、まず「より良いアプローチ」が何を意味するのかを明確にする必要があります。 n点の集合、すなわち（x 1、y 1）、（x 2、y 2）...、（x n、y n）を最も良く表す線y = b + m xを探すとしよう。.

前の図に示されているように、変数xとyが線y = b + mxによって関連付けられている場合、x = x 1の場合、対応するyの値はb + m x 1になります。ただし、この値は、yの真の値（y = y1）とは異なります。.

平面上で、2点間の距離は次の式で与えられることを思い出してください。

このことを念頭に置いて、与えられたデータに最も良く近似する線y = b + mxの選び方を決めるために、基準として点間の距離の二乗の和を最小にする線の選択を使うのは意味がありますそしてストレート.

点（x 1、y 1）と（x 1、b + m x 1）の間の距離はy 1 - （b + m x 1）なので、次の合計が最小になるようにmとbを見つけることで問題が軽減されます。

この条件を満たす線は、「最小二乗線の点（x 1、y 1）、（x 2、y 2）、...、（x n、y n）への近似」と呼ばれます。.

問題が解決したら、最小二乗近似を見つける方法を選択する必要があります。点（x 1、y 1）、（x 2、y 2）、...、（x n、y n）がすべて、y = m x + bの線上にある場合、共線的である必要があります。

この表現では：

最後に、点が同一直線上にない場合、y-Au = 0となり、問題はベクトルを見つけること、またはユークリッドノルムが最小になるように変換することができます。.

最小化ベクトルを見つけることはあなたが思うほど難しくありません。 Aは行列n×2、uは2×1行列なので、ベクトルAuはRのベクトルです。ⁿ そしてそれはAのイメージに属し、それはRの部分空間です。ⁿ 2以下の寸法.

従うべき手順であることを示すために、n = 3とします。 n = 3の場合、Aの画像は原点を通る平面または線になります。.

ｖを最小化ベクトルとする。この図では、y-AuがAの画像に直交するときに最小化されることがわかります。つまり、vが最小化ベクトルの場合、次のようになります。

それでは、上記のように表現できます。

これは次の場合にのみ起こります。

最後に、vをクリアして、

Aからこれを行うことは可能です^トンデータとして与えられたn点が同一線上にない限り、Aは可逆です。.

さて、代わりに線を探すのであれば放物線を探したいとします（その式はy = a + bx + cxの形式になります）。²それはn個のデータ点により近い近似であった、手順は下記の通りであろう.

n個のデータポイントが放物線の中にある場合は、次のようになります。

その後：

同様に、y = Auと書くことができます。すべての点が放物線内にない場合、y-Auは任意のベクトルuに対してゼロとは異なることがわかります。また、次のように問題があります。そのノルム|| y-Au ||できるだけ小さくする.

前の手順を繰り返すことで、検索対象のベクトルに到達することができます。

解決した演習

演習1

点（1,4）、（-2,5）、（3、-1）、（4,1）に最もよく合う線を探します。.

解決策

我々はする必要があります：

その後：

したがって、私たちは、ポイントに最もよく合う線は次のように与えられると結論します。

演習2

オブジェクトが200 mの高さから落下したとします。転倒している間、以下の対策が取られます。

時間ｔを経過した後の前記物体の高さは、次式によって与えられることを我々は知っている。

gの値を取得したい場合は、表に示されている5つの点に近似する放物線を見つけることができます。したがって、tに付随する係数が得られます。² 測定値が正確であれば、それは（-1/2）gへの合理的な近似になります.

我々はする必要があります：

そしてそれから：

そのため、データ点は次の2次式で調整されます。

次に、あなたがしなければならない：

これは正しい値に合理的に近い値で、g = 9.81 m / sです。². gのより正確な近似を得るためには、より正確な観測から始めることが必要でしょう。.

それは何のためですか？?

自然科学や社会科学で発生する問題では、いくつかの数式を使用して、異なる変数間で発生する関係を記述すると便利です。.

たとえば、経済学におけるコスト（C）、収入（I）、および利益（U）を簡単な式で関連付けることができます。

物理学では、重力による加速度、物体が落下している時間、および物体の高さを法則で関連付けることができます。

前の式では_○ そのオブジェクトの初期の高さとv_○ あなたの初速度です.

ただし、このような式を見つけるのは簡単なことではありません。通常、得られた結果が一定であることを確認するために多数のデータを処理し、複数の実験を繰り返して実行するのは、専門家の責任です。.

これを達成する一般的な方法は、平面で得られたデータを点として表し、これらの点に最適に近づく連続関数を探すことです。.

与えられたデータを「最もよく近似する」関数を見つける方法の1つは、最小二乗法によるものです。.

さらに、演習でも見たように、この方法のおかげで物理定数に非常に近い近似値を得ることができます。.

参考文献

1. チャールズWカーティス線形代数。 Springer-Velarg
2. カイ・ライチョン確率過程を伴う初等確率論Springer-Verlag New York Inc
3. Richar L BurdenとJ.Douglas Faires。数値解析（7ed）トンプソン学習.
4. スタンリーI.グロスマン線形代数の応用MCGRAW-HILL /インターアメリカーナデメキシコ
5. スタンリーI.グロスマン線形代数MCGRAW-HILL /インターアメリカーナデメキシコ