Luận văn Phương pháp stein và định hướng ứng dụng vào xử lý tín hiệu radar

LỜI CẢM ƠN Lời đầu tiên, con xin cảm ơn ba mẹ đã nuôi dưỡng, giáo dục con nên người, luôn bên cạnh lo lắng và động viên con về tinh thần cũng như vật chất trong suốt quá trình học của con. Đặc biệt, em xin bày tỏ lòng kính trọng và biết ơn sâu sắc tới thầy – TS Tô Anh Dũng đã tận tình giảng dạy, hướng dẫn, chỉ bảo cặn kẽ cho em về chuyên môn, kinh nghiệm để hoàn thành luận văn này một cách tốt nhất. Em xin chân thành cảm ơn Ban giám hiệu cùng quý thầy cô trường Đại học Khoa học tự nhiên, các thầy thuộc bộ môn Xác suất thống kê, PGS.TS Nguyễn Bác Văn, TS Dương Tôn Đảm, GS.TSKH Nguyễn Văn Thu đã tận tình giảng dạy, giúp đỡ tạo điều kiện cho em trong suốt thời gian theo học tại trường cũng như trong thời gian nghiên cứu thực hiện luận văn. Em cũng xin cảm ơn các thầy phản biện đã đọc và cho ý kiến đóng góp quý báu về luận văn của em. Cảm ơn các anh chị và các bạn đã chia sẻ và động viên tôi trong suốt quá trình thực hiện. MỤC LỤC Trang LỜI CẢM ƠN……………………………………………………………………..1 MỤC LỤC…………………………………………………………………………2 LỜI MỞ ĐẦU Lý thuyết xác suất trong nửa đầu thế kỷ 20 đã có những thành tựu vượt bậc trong việc lập công thức và chứng minh các định lý giới hạn cổ điển như: Luật số lớn, Định lý giới hạn trung tâm, Luật loga lặp cho tổng các biến ngẫu nhiên độc lập. Phương pháp cổ điển chủ yếu dựa vào phép biến đổi Fourier. Tất cả các định lý đều liên quan đến tổng các biến ngẫu nhiên độc lập. Tuy nhiên quan hệ phụ thuộc thường xuất hiện nhiều hơn trong áp dụng và bắt đầu được nghiên cứu nhiều từ năm 1950. Trong trường hợp không độc lập thì phương pháp Fourier rất khó áp dụng và sự chính xác của xấp xỉ rất khó tìm ra. Trong hoàn cảnh đó, Charler Stein đã giới thiệu một phương pháp mới được gọi là phương pháp Stein (1970). Mục đích của phương pháp Stein nhằm xấp xỉ một phân bố này bằng một phân bố khác và đánh giá sai số ước lượng. Phương pháp này mang lại ước lượng tường minh của sai số xấp xỉ với điều kiện có tính độc lập hoặc không độc lập. Với những ưu điểm của phương pháp này mà nó ngày càng có tầm quan trọng và được phát triển hơn nữa. Đây là một phương pháp mới, hiện đại và có nhiều ứng dụng trong thực tế. Radar (viết tắt của Radio direction and ranging – Định hướng và định tầm bằng vô tuyến) là thiết bị để định vị các vật thể trong không gian, tìm hướng và điều khiển bằng các sóng vô tuyến tần số cao phát ra và phản xạ trở lại. Hướng của một vật thể được xác định bằng cách truyền đi một chùm sóng vô tuyến bước sóng ngắn và thu lại chùm phản xạ. Khoảng cách được xác định bằng cách đo thời gian đi của sóng vô tuyến (theo tốc độ ánh sáng) đến vật thể và quay trở lại. Radar về cơ bản được dùng để dò tìm trong bóng đêm, mây và sương mù, và được sử dụng rộng rãi trong quốc phòng để phát hiện, theo dõi máy bay và tên lửa của kẻ địch. Trong phân tích xử lý tín hiệu radar, nhiều xấp xỉ đã được đưa vào để làm đơn giản phân tích hệ thống. Trong phạm vi dò tìm của radar, tín hiệu nhận vào thường xảy ra sự nhiễu phản xạ và tạp âm, sự nhiễu phản xạ này được thể hiện qua những vết đốm trên màn hình hiển thị. Những phân phối xác suất như phân phối Rayleigh, phân phối Weibull đã được thiết lập để thích hợp với mô hình nhiễu phản xạ radar trong những viễn cảnh môi trường khác nhau. Những xấp xỉ cho sự nhiễu phản xạ như thế có thể được kiểm định qua những nghiên cứu thí nghiệm thông qua những phép thử. Có thể giả định rằng một độ đo nhiễu phản xạ trong một môi trường được đưa ra có một phân phối thống kê đặc biệt. Nếu một xấp xỉ cho các phân phối đó được xác lập thì nó có thể cải thiện được ước lượng của những độ đo hiệu ứng radar chẳng hạn như là những xác suất dò tìm và cảnh báo lỗi. Những xấp xỉ này có thể được ước lượng một cách chính xác bằng phương pháp Stein. Phương pháp này cho phép một cận được xác định trên xấp xỉ phân phối của một biến ngẫu nhiên bởi một biến ngẫu nhiên khác. Phương pháp Stein được trình bày trong trường hợp xấp xỉ Poisson và xấp xỉ Gauss của những biến ngẫu nhiên. Một bước phát triển mới của phương pháp Stein trong việc đo phân bố xấp xỉ của một biến ngẫu nhiên bằng một phân phối mũ được đưa ra. Công việc này có ứng dụng trực tiếp tới một số phân phối liên quan đến radar. Đặc biệt, thời gian dò tìm trong sơ đồ định vị radar có thể được xấp xỉ bởi một phân phối như thế. Những phân phối này thường xuyên được sử dụng trong radar, vì thế những kết quả này có thể được ứng dụng để phân tích hiệu ứng radar. Mục đích nghiên cứu của luận văn là trình bày phương pháp Stein và định hướng ứng dụng vào một số vấn đề liên quan đến radar ở dạng tổng quát. Luận văn gồm 6 chương: Chương 1 giới thiệu phương pháp Stein tổng quát. Chương 2 nghiên cứu về phương trình Stein cho xấp xỉ Poisson và nghiệm của nó. Cách xây dựng toán tử Stein và toán tử A của Louis Chen. Đặc biệt là giới thiệu phương pháp xấp xỉ địa phương và phương pháp ghép cặp. Chương 3 nghiên cứu về phương trình Stein cho xấp xỉ Poisson phức hợp và nghiệm của nó. Đánh giá sai số ước lượng. Chương 4 giới thiệu những kiến thức cơ bản của phương pháp Stein cho xấp xỉ chuẩn, tính chất nghiệm của phương trình Stein, cấu trúc của phương trình đồng nhất Stein, xấp xỉ chuẩn đối với những hàm trơn. Chương 5 giới thiệu phương pháp Stein cho xấp xỉ mũ Chương 6 đưa ra định hướng ứng dụng của phương pháp Stein vào một số vấn đề liên quan đến xử lý tín hiệu radar. Chương I PHƯƠNG PHÁP STEIN 1.1 Giới thiệu Phương pháp Stein là gì? Để trả lời câu hỏi này ta xét trường hợp sau: Cho (S,S,) là không gian xác suất. Cholà tập các hàm đo được h : SR, là tập các hàm - khả tích; e.g. là tập các hàm chỉ tiêu {IA; AS }. Chúng ta muốn tính với mọi h nhưng có cấu trúc phức tạp thì việc tính toán chính xác là không thể; e.g. là phân bố của một tổng rất nhiều các biến ngẫu nhiên phụ thuộc. Một ý tưởng tự nhiên là thay thế bằng , với gần;tốt hơn và đơn giản hơn sao cho tích phânlà dễ tính toán và thử ước lượng sai số. Không cần thiết ước lượng với mọi h . Phương pháp Stein cố gắng xây dựng xấp xỉ và ước lượng sai số theo cách như trên. Tóm tắt phương pháp như sau: Cho (S,S,) là không gian xác suất. là tập các hàm như ở trên. Chọn một độ đo trên (S,S) sao cho mọi h là - khả tích và là dễ tính toán. Tìm một tập các hàm và ánh xạ : , sao cho với mỗi h thì phương trình: = h (1.1) có một nghiệm . Rõ ràng: = gọi là Toán tử Stein cho phân bố. (1.1) gọi là Phương trình Stein và nghiệm f của (1.1) gọi là Biến đổi Stein của h. Với việc chọn toán tử Stein như cách trên thì ước lượng cho có thể tìm được. Phương pháp xây dựng toán tử Stein cho được làm theo các bước như sau: (1) Chọn không gian xác suất () chứa một cặp có thể hoán đổi được (X,Y) với phân bố biên duyên. (2) Chọn một ánh xạ , trong đó là không gian các hàm đo được phản xứng F : sao cho E(|F(X,Y)|) < (3) Đặt , trong đó T: F là xác định với điều kiện: (TF)() = Dễ thấy rằng : = = với F =. Do tính phản xứng của F, ta có: = 0 (1.2) Đây là tính chất cần thiết của toán tử Stein. (1.2) gọi là Đồng nhất Stein với phân bố . Một cách khác xây dựng toán tử Stein cho được đề xuất bởi Louis Chen (1998). Cho . Chọn một ánh xạ tuyến tính A : sao cho hàm hằng 1 trên S thuộc miền xác định của liên hợp thì : = và lấy . Ta có: = điều kiện (1.2) là cần thiết trong trường hợp này. Như vậy, việc tìm một toán tử Stein cho phân phối có vai trò quyết định. Sau đây, chúng ta sẽ trình bày một phương pháp tổng quát để xác định toán tử Stein. Đó là phương pháp toán tử sinh. 1.2 Toán tử sinh Bây giờ chúng ta sẽ giải thích làm thế nào để tìm được toán tử Stein qua phương pháp Stein tổng quát được miêu tả trong mục 1.1. Chúng ta sử dụng phương pháp của (Barbour (1988) [3]). Phương pháp này rất quan trọng trong thực hành vì nó dễ chứng minh cho những xấp xỉ tổng quát khác. Cho (Zt ;) là quá trình nhập cư-chết dừng trên với cường độ nhập cư là và cường độ chết là với mỗi . Chúng ta biết rằng đây là quá trình thuận nghịch và dễ dàng chứng minh phân bố dừng . Gọi() là một cặp hoán đổi được với phân bố biên duyên = {F: sao cho F không đối xứng} Chọn ánh xạ xác định (ít nhất với hàm g không tăng quá nhanh) bởi: và ánh xạ xác định bởi: thì: (do cặp là cặp hoán đổi được) với gọi là toán tử sinh của. Chúng ta chỉ ra rằng toán tử Stein được suy ra từ toán tử sinh của một quá trình Markov với phân bố dừng hay chính xác hơn . Điều này đã được chứng minh và nó là một cách xây dựng toán tử Stein cho các phân bố khác. Định lý 1.1 Nếu bị chặn, thì phương trình Stein tương ứng với toán tử là: (1.3) có nghiệm Hơn nữa, là nghiệm bị chặn duy nhất của phương trình Stein tương ứng. Chứng minh Để chỉ ra rằng g là xác định tốt. Chúng ta sử dụng cặp ghép. Đầu tiên, ta xét là quá trình nhập cư - chết trên Z+ với cường độ nhập cư là và cường độ chết là với mọi , sao cho . Ta gọi và là quá trình chết thực sự trên Z+ với cường độ chết , với mọi sao cho và . Hai quá trình này độc lập với nhau và độc lập với . Đặt và chú ý rằng: (1.4) trong đó, log và C. Ta có Do đó, g là xác định tốt. Hơn nữa, áp dụng định lý Fubini: Sử dụng dãy hội tụ, ta suy ra: Cuối cùng sử dụng cặp ghép tương tự như trên ta chỉ ra rằng f = bị chặn và f là nghiệm bị chặn duy nhất của phương trình Stein. Chương II PHƯƠNG PHÁP STEIN CHO XẤP XỈ POISSON Đặt vấn đề Trước tiên, chúng ta xét n thí nghiệm : xác suất thành công của mỗi thí nghiệm là pi và đặt là số thí nghiệm thành công Câu hỏi: Tính P(W=k), với k=1,2,3…và phân bố của W có xấp xỉ phân bố Poisson với không? Khi đó: P(W=k) ~ Ta phải đi tính sai số của xấp xỉ Poisson: |P(W) –{A}| (với A) Ước lượng biến phân |P(W) –{A}| Đặc biệt khi thì có: supA |P(W) –{A}| Có hai cách kiểm tra: là dùng phương pháp giải tích Fourier và phương pháp Stein. Để trả lời câu hỏi, ta tiến hành các bước sau: Tập A bất kì. Hàm xác định vô hạn trên thỏa mãn g(0)=0 và g(j+1) = jg(j) + 1A(j) -{A} với j = 0,1,… (2.1) Suy ra: 1A(j){A} = g(j+1)jg(j) Lấy kì vọng 2 vế ta có: P(W) –A = E{g(W + 1) – Wg(W)} (2.2) với jg(j) là hàm bị chặn theo j Mặt khác, chú ý rằng: Xi g(W) = Xi g(Wi + 1) với Wi = Thật vậy: do chỉ lấy giá trị 0 – 1 nên Xi = 0 suy ra 0 = 0 (đúng) Xi = 1 suy ra g(W) = g(WXi +1) = g(W 1+1) = g(W) (đúng) Vì Wi độc lập với Xi nên ta có: E{Xi g(W)} = E{Xi g(Wi+1)} = E (Xi )E g(Wi +1) = pi E g(Wi +1) E{Wg(W)}= (2.3) Kết hợp (2.2) và (2.3) ta có : |P(W) –{A}| = = = = Mặt khác ta có: Xi chỉ nhận giá trị 0-1. Tại 1 có xác suất pi nên |P(W) –{A}| = = (2.4) với () Ta chỉ ra rằng: Từ đó ta có: = , (2.5) Vậy |P(W) –{A}| Đối số trên cho thấy sự sai khác lớn nhất giữa phân bố của biến ngẫu nhiên W trên một tập A bất kì với phân bố Poisson . Đây là một kết quả sắc bén gây ngạc nhiên và đáng chú ý. Phương pháp Stein đã được Louis Chen cải tiến và phát triển. Khác với việc tính toán như ở trên Louis Chen đã sử dụng phương pháp xây dựng toán tử Stein để tính nghiệm của phương trình Stein và ước lượng biến phân toàn phần khoảng cách. Cách làm này hay, mới mẻ và đạt được nhiều kết quả tốt. 2.2 Phương trình Stein cho và nghiệm của nó Đầu tiên ta xét xấp xỉ Poisson. Phân bố Poisson rất gần với phân bố của tổng các biến chỉ tiêu ngẫu nhiên nhận giá trị 0-1 nếu mỗi biến ngẫu nhiên có xác suất bằng 1 nhỏ và chúng không phụ thuộc quá mạnh. Toán tử Stein (2.6) được chỉ ra bởi Louis Chen và nó có thể sử dụng để ước lượng sai số trong xấp xỉ Poisson. Do đó, phương pháp Stein cho xấp xỉ Poisson còn gọi là phương pháp Chen-Stein hay Stein-Chen. Theo cách tổng quát như đã giới thiệu ở chương 1. Cho là tập các số nguyên không âm được trang bị -đại số và cho là tập các hàm nhận giá trị thực trên . Định nghĩa toán tử Stein như sau : (2.6) Chúng ta sẽ nghiên cứu một số tính chất quan trọng của toán tử Định lý 2.1 Phương trình Stein: có một nghiệm với mỗi hàm - khả tích . Nghiệm f là duy nhất trừ có thể chọn tùy ý. tính được từ phương trình Stein được biểu diễn như sau: = Hơn nữa : nếu h bị chặn thì cũng bị chặn. Chứng minh. Từ phương trình Stein : Ta có : Làm truy hồi tương tự ta có điều phải chứng minh. Hơn nữa, từ biểu diễn thứ 2 của f ta suy ra nếu h bị chặn thì f cũng bị chặn. Định lý 2.2 Một độ đo xác suất trên là khi và chỉ khi với mọi hàm bị chặn h : Chứng minh Điều kiện cần: Với == thì tích phân hai vế của phương trình Stein ta có: Điều kiện đủ: Gọi là nghiệm duy nhất bị chặn của phương trình Stein với . Tích phân hai vế của phương trình Stein theo ta có: Do đó Để ước lượng sai số trong xấp xỉ Poisson điều cần thiết là phải giới hạn chuẩn supremum sai phân bậc một của nghiệm phương trình Stein và chuẩn supremum của chính nghiệm đó. Các hệ số: và (2.7) gọi là các nhân tử kì diệu “magic factors” hay nhân tử Stein. Chú ý rằng hai hệ số đều giảm khi tăng và giảm nhanh hơn Định lý 2.3 Cho là nghiệm duy nhất bị chặn của phương trình Stein ứng với h bị chặn. Thì: trong đó và là các nhân tử Stein. Chứng minh. Chúng ta chứng minh bất đẳng thức thứ 2. Kí hiệu là nghiệm của phương trình Stein trong trường hợp Từ định lý 2.1, ta thấy rằng: là hàm âm và giảm với ; là hàm dương và giảm với Ta có: chỉ dương khi i= k. Ta xét: () Đặt . Thay h bởi vì làm thế không thay đổi vế phải của phương trình Stein. Ta có: Do và chỉ dương khi i=k nên suy ra: Tương tự là nghiệm duy nhất bị chặn của phương trình Stein với h thay bởi . Ta có: Vậy ta đã chứng minh được BĐT thứ 2. Với BĐT thứ 1 ta sử dụng định lý 2.1 và công thức Stirling chỉ ra rằng: (Barbour, Holst và Janson 1992 [6]) đã chứng minh có thể thay 1.4 bằng. Ta có điều phải chứng minh. 2.3 Ước lượng sai số trong xấp xỉ Poisson Chúng ta trở lại với việc xây dựng ước lượng sai số trong xấp xỉ Poisson. Chúng ta chú trọng xét trường hợp phân bố xấp xỉ là phân bố của một tổng các biến chỉ tiêu. Để đơn giản, trong phần này ta sử dụng ký hiệu : * tập các chỉ số hữu hạn. Trong đa số các trường hợp * là các biến chỉ tiêu ; với mỗi * . Mục đích của chúng ta là giới hạn biến phân toàn phần khoảng cách giữa và , xác định bởi : Biến phân toàn phần khoảng cách là một metric trên không gian độ đo xác suất . Rõ ràng cận của đại lượng trên cho ta sai số ước lượng. Chúng ta bắt đầu từ phương trình Stein với mỗi trong đó, là nghiệm của phương trình Stein với . Từ đó, chúng ta có : (2.8) Để chặn (2.8) ta sử dụng phương pháp xấp xỉ địa phương và phương pháp ghép cặp. Phương pháp xấp xỉ địa phương được Louis Chen sử dụng năm 1975. Phương pháp này rất tiện lợi khi cấu trúc phụ thuộc của các biến chỉ tiêu là địa phương (tức là mỗi biến chỉ tiêu phụ thuộc nhiều vào các biến khác) Định lý 2.4 (phép xấp xỉ địa phương) Cho , trong đó là các biến chỉ tiêu. Với mỗi , chia thành hai tập con và một cách hình thức là: phụ thuộc mạnh vào Cho và . Thì trong đó và được định nghĩa như trong (2.7). Chứng minh Chúng ta sẽ giới hạn phần bên phải trong (2.8). Với mỗi ta có Với mỗi , ta có bất đẳng thức sơ cấp sau: (1) (2) (3) *Chứng minh (1): Ta có *Chứng minh (2): Ta có Nếu thì Nếu thì *Chứng minh (3): Ta có: (do ) Vì vậy: Vậy định lý đã được chứng minh. Chúng ta xét 2 ví dụ áp dụng định lý 2.4 trong trường hợp độc lập. Ví dụ 1 (Chỉ tiêu độc lập) Cho độc lập. Chọn với mỗi . Theo định lý 2.4 ta có: (2.9) Trong trường hợp độc lập, có thể sử dụng phương pháp khác phương pháp Stein để suy ra cận của biến phân toàn phần. (LeCam 1960 [15]) đã sử dụng phương pháp Fourier chứng minh rằng: Và nếu thì Hằng số 8 trong cận thứ 2 có thể thay thế bằng 1.05 bởi (Kerstan 1964 [13]) hoặc 0.71 bởi (Daley và Verse-Jones (1988) [11]). Chú ý rằng cận (2.9) nhỏ hơn cận đầu tiên trong các cận và không cần điều kiện . Hơn nữa, (2.9) còn bị chặn dưới bởi: Nếu biến chỉ tiêu là phụ thuộc thì rất khó để tính cận của sai phân toàn phần khoảng cách bằng cách khác phương pháp Stein. Tuy nhiên, một phương pháp khác đã làm được điều này, trong đó phương pháp Stein chỉ ra độ dài thực của nó. Chúng ta xét ví dụ sau. Ví dụ 2 (Bài toán ngày sinh cổ điển) n quả bóng được ném độc lập vào d cái hộp với xác xuất như nhau. Cho W là số cặp bóng vào cùng một cái hộp. Thì trong đó Chứng minh. Lấy là tập tất cả 2- tập con của như vậy ta có = Cho Xi với là biến chỉ tiêu trong trường hợp “các quả bóng và nằm cùng một hộp”. Rõ ràng và {Xi; } là tách được, có nghĩa là với hai tập con bất kì và thì , tập các biến ngẫu nhiên và là độc lập. Chúng ta chọn , sao cho số hạng cuối trong cận của định lý 2.4 bằng 0. Do E(Xi) = d với mọi và với mọi ta có: = = trong đó Sau đây, chúng ta xét phương pháp ghép cặp để giới hạn phần bên tay phải trong (2.8). Phương pháp này rất tốt trong trường hợp cấu trúc phụ thuộc của biến chỉ tiêu là không địa phương. Việc liên kết phương trình Stein với cặp ghép được giới thiệu tổng quát lần đầu tiên trong (Stein 1986 [25]). Định lý 2.5 (Phương pháp ghép cặp) Cho trong đó {} là các biến chỉ tiêu. Với mỗi , chia \{i} thành hai tập con và . Cho và . Cho hai biến ngẫu nhiên và sao cho: và được xác định trên cùng một không gian xác suất. Thì: trong đó được định nghĩa như trong (2.7). Chứng minh Ta chứng minh như định lý 2.4. Trừ đại lượng được chặn khác. Bây giờ chúng ta sử dụng cặp ghép, với mỗi : Suy ra: Do đó Trong định lý 2.5, trường hợp các biến chỉ tiêu {} là độc lập bằng cách chọn và chúng ta lại có cận như trong (2.9). Ví dụ 3 (Bài toán chiếm chỗ cổ điển) r quả bóng được ném một cách độc lập vào n cái hộp với xác suất như nhau. Cho W là số hộp rỗng thì: Nếu r = nan với thì khi Nếu thì: Chứng minh Với mỗi , cho Xi là biến chỉ tiêu trong trường hợp “hộp thứ i là hộp rỗng” thì . Xét định lý 2.5 với và Xác định theo cách như sau: lấy những quả bóng ở hộp thứ i ném chúng một cách độc lập vào những hộp khác, và lấy là biến chỉ tiêu trong trường hợp “sau khi ném hộp thứ j là rỗng”. Thì Do với mỗi quả bóng, xác suất rơi vào một hộp cụ thể được cho bởi Suy ra, với mỗi ta có: Lấy và . Ta thấy với mỗi chỉ số .Ta có: Sau đây là một mở rộng nhỏ rất có ích của phương pháp ghép cặp (không chứng minh) Định lý 2.6 (Phương pháp ghép cặp chi tiết) Cho , trong đó là các biến chỉ tiêu. Với mỗi , chia thành hai tập con và . Cho và . Cho một biến ngẫu nhiên xác định trên cùng một không gian xác suất giống như và . Với mỗi lấy hai biến ngẫu nhiên và sao cho: và được xác định trên cùng một không gian xác suấ