PHƢƠNG PHÁP BÌNH PHƢƠNG CỰC TIỂU
Ths: Nguyễn Thị Huệ
Bộ môn : Cơ Bản cơ Sở
Trƣờng Đại học Dân Lập Hải Phòng
Summarization
The least squares method
The method of least squares assumes that the best-fit curve of a given type is the curve that
has the minimal sum of the deviations squared (least square error) from a given set of data.
Suppose that the data points are (x1,y1), (x2, y2), … , (xn, yn) where (xi,yi) is the independent
variable and (xi,yi) is the dependent variable. The fitting curve (xi,yi) has the deviation (error)
(xi,yi)from each data point,
The method of least squares is a standard approach to the approximate solution of
overdetermined systems, i.e., sets of equations in which there are more equations than unknowns.
"Least squares" means that the overall solution minimizes the sum of the squares of the errors made in
the results of every single equation.
The most important application is in data fitting.
1
1>GIỚI THIỆU CHUNG
Phƣơng pháp bình phƣơng bé nhất thƣờng đƣợc dùng để lập công thức thực nghiệm. Giả sử
cần tìm mối quan hệ hàm số giữa hai đại lƣợng x và y, muốn thế ta tiến hành thí nghiệm rồi quan sát,
đo đạc, ta nhận đƣợc bảng tƣơng ứng:
x
x1 x2 … xi … xn
y
y1
y2
…
yi …
yn
Việc từ bảng trên lập ra mối quan hệ hàm số y = f(x) cụ thể gọi là lập công thức thực nghiệm.
Nói chung việc tìm ra hàm số f(x) là gần đúng, việc tìm ra hàm số xấp xỉ của hàm số f(x) bằng phƣơng
pháp bình phƣơng cực tiểu sẽ rất phức tạp nếu không biết trƣớc dạng của hàm số xấp xỉ. Một trong các
hàm số xấp xỉ đã biết và rất hay dùng trong các bài toán thực tế có dạng:
a) y = ax + b
b) y = ax2 + bx + c
2) GIẢI PHƢƠNG TRÌNH HỒI QUY DẠNG Y = A X + B BẰNG PHƢƠNG PHÁP BÌNH
PHƢƠNG CỰC TIỂU.
+) Vì các cặp số (x1,y1), (x2, y2), … , (xn, yn) nhận đƣợc từ thí nghiệm chỉ là những giá trị gần
đúng của x, y nên chúng không hoàn toán là nghiệm đúng của phƣơng trình y = ax + b nghĩa là:
y1 – ax2 – b = v1
y2 – ax2 – b = v2
………………..
yn – axn – b = vn
trong đó các vi là các sai số.
Phƣơng pháp bình phƣơng bé nhất nhằm xác định các các hệ số a và b sao cho tổng bình phƣơng
của các sai số nói trên là bé nhất.
Nghĩa là :
n
S v
i 1
2
i
n
ax
i 1
bi yi min
2
i
Nhƣ vậy a, b phải thỏa mãn hệ phƣơng trình:
n
S
2
ax i bi yi .xi 0
a
i 1
n
S 2 ax b y 0
i
i
i
b
i 1
S
a 0
S 0
b
Rút gọn ta có hệ sau:
n
n 2
a
x
b
xi
i
i 1
i 1
n
a x nb
i
i 1
n
x y
i 1
i
i
n
y
i 1
i
Đây là hệ 2 phƣơng trình hai ẩn số a và b, n là số lần làm thí nghiệm. Giải hệ này ta tìm đƣợc a
và b nhƣ sau:
2
n
a
n
n
n
n xi yi xi yi
i 1
i 1
i 1
n xi2 xi
i 1
i 1
n
n
;
2
b
yi
i 1
n
n
i 1
i 1
n
xi2 xi xi yi
i 1
2
n xi2 xi
i 1
i 1
n
n
3) GIẢI PHƢƠNG TRÌNH HỒI QUY DẠNG Y = A X2 + BX + C BẰNG PHƢƠNG PHÁP BÌNH
PHƢƠNG CỰC TIỂU.
Hàm hồi quy có dạng Y = ax2 + bx + c
Sai số : vi = (ax2 + bx + c ) – yi với i = 1, 2 ,…, n
Tổng các bình phƣơng của các sai số trên là bé nhất nghĩa là:
n
S vi2
i 1
ax
n
i 1
2
i
bxi c yi min
2
Nhƣ vậy a, b, c thỏa mãn hệ phƣơng trình:
S
a 0
S
0
b
S
c 0
n
S
2
2
a 2 ax i + bx i c yi .xi 0
i 1
n
S
2 ax i2 + bx i c yi xi 0
i 1
b
n
S
2 ax i2 + bx i c yi 0
i 1
c
Rút gọn ta đƣợc hệ phƣơng trình chính tắc sau:
n
n
n
n 4
3
2
2
a xi b xi c xi xi yi
i 1
i 1
i 1
i 1
n
n
n
n 3
2
a xi b xi c xi xi yi
i 1
i 1
i 1
i 1
n
n
n 2
a xi b xi nc yi
i 1
i 1
i 1
Giải hệ ta tìm đƣợc các giá trị của a, b, c
+) lập bảng dạng sau:
n
1
2
…
n
xi
yi
xi2
x3i
xi4
xiyi
xiyi2
xi
yi
xi2
xi3
x4i
xiyi
xiyi2
4> VÍ DỤ VỀ BÀI TOÁN HỢP KIM
Trong hợp kim, ta có bảng số liệu về phần trăm lƣợng chì và điểm chảy tƣơng ứng 0C . Tìm
quan hệ hàm giữa nhiệt độ và lƣợng chì trong hợp kim.
3
%lƣợng chứa Pb(p)
36,9
46,7
63,7
77,8
84
0C
1810
1970 2350
2700 2830
*> Giải bài toán trên bằng phƣơng pháp bình phƣơng cực tiểu
+) Theo phƣơng pháp bình phƣơng cực tiểu có: = a0 + a1p
+) Lập bảng tính toán:
n
1
2
3
4
5
6
pi
36,9
46,7
63,7
77,8
84
87,5
396,6
i
181
197
235
270
283
292
1458
87,5
2920
pii
6678,9
9199,9
14969,5
21006,0
23772,0
25550,0
101176,3
pi2
1361,61
2180,89
4057,69
6052,84
7056,00
7656,25
28365,28
Vậy áp dụng công thức tính a0 và a1 ta đƣợc phƣơng trình hồi quy nhƣ sau:
= 95,3530 + 2,2337p
Sai số của phƣơng pháp:
n
1
2
3
4
5
6
pi
36,9
46,7
63,7
77,8
84
87,5
396,6
i
181
197
235
270
283
292
1458
pii
6678,9
9199,9
14969,5
21006,0
23772,0
25550,0
101176,3
pi2
1361,61
2180,89
4057,69
6052,84
7056,00
7656,25
28365,28
tt
177,8
199,7
237,6
269,1
283,0
290,8
vi
3,2
-2,7
-2,6
0,9
0
1,2
vi2
10,24
7,29
6,76
0,81
0
1,44
26,54
Sai số xác suất đƣợc tính bởi công thức:
n
r 0, 675
vi2
i 1
n2
6
0, 675
v
i 1
2
i
62
0, 675
26,54
1, 7
4
Vậy hàm hồi quy có dạng sau: = 95,3530 + 2,2337p 1,7
KẾT LUẬN
Với cùng dữ liệu đầu vào nhƣng khi giải theo 3 phƣơng pháp ta đƣợc kết qủa nhƣ sau:
+) Phƣơng pháp bình phƣơng bé nhất: = 95,3530 + 2,2337p 1,7
+) Phƣơng pháp thƣơng sai phân:
= 97,35175 + 2,20368 p 1,8
+) Phƣơng pháp bình quân:
= 92,6547 + 2,2745 p 1,8
Nói chung về cách làm thì phƣơng pháp bình quân là phƣơng pháp đơn giản nhất, nhƣng cũng
khá hiệu quả. Phƣơng pháp bình phƣơng bé nhất tỏ ra hiệu quả hơn, tính toán không quá phức tạp
trong việc giải quyết bài toán, còn phƣơng pháp thƣơng sai phân có độ phức tạp nằm giữa hai phƣơng
pháp trên.
4
TÀI LIỆU THAM KHẢO
[1] : Dƣơng Thuỷ Vỹ, Phương pháp tính, Nhà xuất bản khoa học và kỹ thuật, 2002.
[2]: Tạ Văn Đĩnh, Phương pháp sai phân và phương pháp phần tử hữu hạn, Nhà xuất bản khoa học và
kỹ thuật, 2001.
5
- Xem thêm -