Đề tài Xây dựng bộ công cụ thực hiện một số giải thuật trong môn học ngôn ngữ hình thức và Automata

LỜI NÓI ĐẦU Môn học ngôn ngữ hình thức và automata có rất nhiều ứng dụng trong lĩnh vực khoa học máy tính như xây dựng các trình biên dịch, nhận dạng và chuyển đổi giữa các ngôn ngữ khác nhau… Do đó mà môn học này là một môn học bắt buộc cho các sinh viên ngành CNTT trong các trường đại học. Để giúp cho các sinh viên có điều kiện học tốt và thực hành các bài tập của môn học này, luận văn này đi sâu vào việc mô phỏng lại hoạt động của các giải thuật trong phần ngôn ngữ phi ngữ cảnh đặc biệt là các giải thuật phân tích cú pháp Earley và CYK. Sinh viên có thể khai thác cơ sở lý thuyết của môn học thông qua hệ thống Help của chương trình. Xin cám ơn thầy Hồ Văn Quân đã tận tình hướng dẫn và giúp đỡ tôi hoàn thành bản luận văn tốt nghiệp như yêu cầu của đề bài. Sinh Viên Thực Hiện Thái Thuần Thạch PHẦN 1 GIỚI THIỆU 1. GIỚI THIỆU ĐỀ TÀI Yêu cầu của đề tài là : “Xây dựng bộ công cụ thực hiện một số giải thuật trong môn học ngôn ngữ hình thức và Automata.” Ngoài các giải thuật biến đổi văn phạm, tập trung vào nghiên cứu và hiện thực hai giải thuật phân tích cú pháp CYK và Earley, Đánh giá số bước phân tích của mỗi giải thuật. Aùp dụng nhận dạng một câu nhập thuộc ngôn ngữ tự nhiên (Tiếng Anh) 2. MỤC ĐÍCH & Ý NGHĨA Hiện nay, ở nước ta việc áp dụng giảng dạy các môn học thông qua các mô hình giảng dạy thiết kế trên máy tính còn gặp nhiều khó khăn, một trong những nguyên nhân là thiếu các phần mềm hỗ trợ việc học và giảng dạy. Luận văn này ra đời không nằm ngoài mục đích giúp sinh viên nghành CNTT có một công cụ để hỗ trợ thêm cho việc học môn học “Ngôn Ngữ Hình Thức & Automata” . Bộ công cụ này cho phép sinh thấy rõ cách thức hoạt động của một số giải thuật của phần ngôn ngữ phi ngữ cảnh, cũng như thấy được ứng dụng của các giải thuật phân tích cú pháp. 3. NỘI DUNG CHÍNH CỦA LUẬN VĂN TỐT NGHIỆP Nội dung của luận văn được chia làm 8 phần, cụ thể như sau: Phần 1 : Là phần giới thiệu về đề tài, cùng ý nghĩa và tầm quan trọng của nó. Phần 2 : Đây là phần tìm hiểu về cơ sở lý thuyết có liên quan, trong phần 2 này được chia làm 4 chương với các chủ đề tìm hiểu khác nhau cụ thể là : Chương 1 : Một số khái niệm cơ bản của môn học Mục đích của chương này là giúp cho người đọc làm quen với một số khái niệm về Ngôn ngữ Hình thức & Automat như chuỗi, ngôn ngữ và văn phạm chính qui, ngôn ngữ và văn phạm PNC, cây dẫn xuất… để có thể dễ dàng đọc tiếp những phần sau.Tuy nhiên, người đọc có thể bỏ qua chương này nếu đã nắm được các khái niệm trên. Chương 2 :Các giải thuật biến đổi văn phạm PNC & các dạng chuẩn Trong chương này tập trung tìm hiểu các giải thuật biến đổi văn phạm PNC như : Loại bỏ các luật sinh rỗng, đơn vị, vô dụng cũng như chuyển đổi một văn phạm PNC bất kỳ về hai dạng chuẩn Chomsky và Greibach, đây là phần lý thuết cơ bản làm nền tảng cho việc thực hiện giải thuật phân tích cú pháp CYK sau này. Chương 3 : Trình bày Một số giải thuật và công cụ phân tích cú pháp thông dụng bao gồm phương pháp từ trên xuống (top -down) và từ dưới lên (bootom -up) mục đích là giúp cho người đọc có sơ sở để so sánh với hai giải thuật phân tích cú pháp tổng quát CYK và Earley Chuơng 4 : Giải thuật phân tích cú pháp Earley và CYK, đây là phần chính của luận văn, trong chương này chú trọng đến việc tìm hiểu về giải thuật để phân tích cú pháp và tạo chuỗi dẫn xuất cho câu nhập, cũng như so sánh độ phức tạp của hai giải thuật này với các giải thuật ở chương 3. Phần 3 : Tìm hiểu lý thuyết về phần mềm hỗ trợ học tập và giảng dạy, cách thức để thiết kế và lựa chọn mô hình giảng dạy tốt. Phần 4 : Tập trung phân tích và thiết kế cho mô hình vừa chọn, phần này dựa trên các lý thuyết đã tìm hiểu ở phần 2 và mô hình giảng dạy để đưa ra Lựa chọn ngôn ngữ lập trình Cấu trúc dữ liệu cho các giải thuật sử dụng trong chương trình Cách thức nhập liệu, cấu trúc file lưu trữ Cách trình bày dữ liệu xuất Các lưu đồ thuật toán, tính toán độ phức tạp… … Phần 5 : So sánh độ phức tạp giữa hai giải thuật phân tích cú pháp CYK và Earley, trong phần này đưa ra các giả thiết để thực hiện tính độ phức tạp cho hai giải thuật trên bằng chương trình cũng như đưa ra những minh họa bằng ví dụ thực tế (với các đồ thị minh họa) Phần 6 : Aùp dụng nhận dạng ngôn ngữ tự nhiên, trong phần này sẽ trình bày các vấn đề liên quan đến việc nhận dạng một câu nhập (Tiếng Anh) và cách thức xây dựng bộ từ điển token. Phần 7 : Thiết kế Help : đây cũng là một phần quan trọng của một chương trình trợ giúp học tập, trong phần này chú trọng tìm hiểu thiết kế một hệ thống Help. Đặc biệt là thiết kế hệ thống Help cho chương trình thông qua công cụ Windows Help Designer Pro (down load từ Phần 8 : Giới thiệu chuơng trình kết quả. Phần 9 : Phụ lục - Mã chương trình Phần 10 : Giới thiệu các tài liệu tham khảo PHẦN 2 : CƠ SỞ LÝ THUYẾT LIÊN QUAN CHƯƠNG 1 MỘT SỐ KHÁI NIỆM CƠ BẢN Trong chương này chúng ta sẽ tìm hiểu một số khái niệm và định nghĩa cơ bản liên quan đến môn học như : bảng chữ cái, chuỗi, ngôn ngữ, văn phạm, cây dẫn xuất…, tuy nhiên sinh viên có thể bỏ qua chương này nếu đã nắm bắt được các khái niệm trên. 1. BẢNG CHỮ CÁI Là một tập hữu hạn không trống các ký hiệu (symbol) tập này thường được ký hiệu bằng S Ví dụ : {A,B,C,...,Z} : Bảng chữ cái chữ La Tinh {0,1,2,....9} : Bảng chữ số thập phân 2. CHUỖI Cho S là bảng chữ cái (alphabet), một từ w trên S là một chuỗi hữu hạn các chữ cái. Ví dụ: w=aabba, v=aaabbb là các từ trên bảng chữ cái S={a,b} Chuỗi rỗng cũng là một từ trên bảng chữ cái S ký hiệu là l Kết nối chuỗi (concatenation) : Cho hai chuỗi u,v trên bảng chữ cái S, kết nối giữa hai chuỗi u,v ký hiệu là uv là một từ trên bảng chữ cái S bao gồm các ký hiệu thuộc u theo sau là các ký hiệu thuộc v. Ví dụ: S ={a,b,1,2} u=aabb v=1122 uv=aabb1122 Đảo một chuỗi : là chuỗi nhận được bằng cách viết các ký hiệu theo thứ tự ngược lại. Ví dụ : v=1122 thì vR=2211 Tiếp đầu ngữ (prefix) và tiếp vĩ ngữ (suffix) của một chuỗi : Nêu w=uv thì u được gọi là tiếp đầu ngữ và v được gọi là tiếp vĩ ngữ của w Chiều dài của một chuỗi : Chiều dài của một chuỗi w được ký hiệu là |w| hay là l(w) là số ký hiệu có trong chuỗi. Với mọi chuỗi u,v trên S ta có: |uv|=|u|+|v| |uv|=|vu| Lũy thừa của một chuỗi: nêu w là một chuỗi thì wn là một chuỗi có được bằng cách kết nối chuỗi w với chính nó n lần, trường hợp đặc biệt w0=l S* : Nếu S là một bảng chữ cái thì tập tất cả các chuỗi trên S kể cả chuởi trống được gọi là S* S+: Nếu S là một bảng chữ cái thì tập tất cả các chuỗi trên S không kể chuởi trống được gọi là S+ 3. NGÔN NGỮ Bất kỳ một tập L nào trên bảng chữ cái S, hay tập con L của S* được gọi là một ngôn ngữ. Ví dụ : Cho S={a,b} thì S*={l,a,b,aa,ab,ba,aaa,aab,...} Tập {a,aa,aab} là một ngôn ngữ trên å Tập L={anbn : n³0} cũng là một ngôn ngữ trên tập å Vì ngôn ngữ là một tập hợp các chuỗi nên hội (union), giao (intersection) và hiệu (diference) của hai ngôn ngữ dễ dàng xác định ngay lập tức. Bù của một ngôn ngữ : Bù của một ngôn ngữ L trên bảng chữ cái å được ký hiệu là L =å*-L Cho L1 và L2 là hai ngôn ngữ trên bảng chữ cái å: + L1L2 : Là một ngôn ngữ trên å chứa các chuỗi có được bằng cách nối bất kỳ một chuỗi của ngôn ngữ L1 với một chuỗi bất kỳ của ngôn ngữ thuộc L2 L1L2={w: w=uv, uỴL1, vỴL2} + Ln : Lũy thừa của một ngôn ngữ bao gồm L nối với chính n lần với trường hợp đặc biệt : L0={l} Ln=Ln-1L với n³0 Bao đóng -sao của một ngôn ngữ L được ký hiệu là L* với : L*=L0ÈL1ÈL2... Bao đóng -dương của một ngôn ngữ L được ký hiệu là L+ với : L+=L1ÈL2... 4.VĂN PHẠM CHÍNH QUI VÀ NGÔN NGỮ CHÍNH QUI 4.1- Văn phạm Chính Qui Để nguyên cứu một ngôn ngữ, chúng ta cần một cơ chế để mô tả nó. Ngôn ngữ hàng ngày thường không chính xác (vì có thể hiểu theo nhiều nghĩa tùy vào hoàn cảnh của từng người và bối cảnh sảy ra), cú pháp thì nhập nhằng không rõ ràng (câu có thể không xác định được ý nghĩa chính xác), vì vậy chúng ta sẽ tìm hiểu một vài cơ chế định nghĩa ngôn ngữ rất hiệu quả trong các trường hợp khác nhau đó là định nghĩa ngôn ngữ thông qua văn phạm. Định Nghĩa Một văn phạm G được xác định như là một bộ bốn : G=(V,T,S,P) Trong đó: + V là một tập hữu hạn các đối tượng được gọi là các biến (variable) + T là một tập hữu hạn các đối tượng được gọi là các ký hiệu kết thúc (terminal symbol) + SỴ V là một ký hiệu đặt biệt được gọi là biến khởi đầu. + P là tập hữu hạn các luật sinh (Production) Văn phạm tuyến tính Phải và Trái + Một văn phạm G=(V,T,S,P) được gọi là tuyến tính - phải nếu tất cả các luật sinh có dạng : X à xB, Xà x Trong đó : A,B Ỵ V, x Ỵ T* . + Mộtvăn phạm được gọi là tuyến tính trái nếu tất cả các luật sinh có dạng : Xà Bx, Xà x + Một văn phạm gọi là chính qui là văn phạm mà hoặc là tuyến tính trái hoặc tuyến tính phải. Các luật sinh là trái tim của văn phạm, chúng chỉ ra làm thế nào văn phạm biến đổi một chuỗi thành một chuỗi khác, và thông qua cách này chúng (các luật sinh) định nghĩa một ngôn ngữ liên kết với văn phạm. Chúng ta nói rằng w dẫn xuất ra z ký hiệu w=*>z hay z được dẫn xuất ra từ w. Các chuỗi lần lượt được dẫn xuất bằng cách áp dụng các luật sinh của văn phạm trong một thứ tự tùy ý nếu : w1=>w2=>...=>wn chúng ta nói w1 dẫn xuất ra wn và viết w1=*> w2. Dấu * chỉ ra rằng một số bước bất kỳ nào đó (kể cả không) có thể được áp dụng để dẫn xuất ra wn từ w1 Để chỉ ra ít nhất một luật sinh áp dụng chúng ta phải viết : w1=+>wn 4.2- Ngôn Ngữ Chính Qui Một ngôn ngữ gọi là chính qui nếu tồn tại một automat hữu hạn chấp nhận nó. Vì vậy mỗi ngôn ngữ chính qui có thể được mô tả bằng một dfa hay một nfa nào đó, như vậy để trình bày một ngôn ngữ chính qui có thể mô tả nó như là một dfa hay nfa. Ngôn ngữ L là chính qui nếu và chỉ nếu tồn tại một văn phạm chính qui G sao cho L=L(G). 4.3- Biểu Thức Chính Qui Một cách để biểu diễn ngôn ngữ chính qui là thông qua khái niện biểu thức chính qui. Khái niệm về biểu thức chính qui bao gồm sự kết hợp các chuỗi kí hiệu của một bảng chữ các å nào đó, các dấu ngoặc ( ) và các phép toán + , . và *. Ví dụ r=(a|b)*a Định nghĩa Cho å là một bảng chữ cái. Thì: + Ỉ,l và aỴå tất cả đều là những biểu thức chính qui. Những cái này được gọi là những biểu thức chính qui nguyên thủy. + Nếu r1 và r2 là những biểu thức chính qui, thì r1+r2, r1.r2, và(r1) cũng vậy. + Mộät chuỗi là một biểu thức chính quy nếu và chỉ nếu nó có thể được dẫn xuất từ các biểu thức chính qui nguyên thủy bằng một số lần hữu hạn áp dụng các qui tắc trong (2). Ngôn ngữ L(r) được biểu thị bỡi biểu thức chính qui bất kỳ và được định nghĩa bởi các qui tắc sau: + Ỉ là một biểu thức chính qui biểu thị tập trống. + l là một biểu thức chính qui biểu thị tập {l} + Đối với mọi a Ỵå, a là biểu thức chính qui biểu thị cho ngôn ngữ {a}. Nếu r1 và r2 những biểu thức chính qui thì : + L(r1+r2) = L(r1) ÈL(r2) + L(r1.r2) = L(r1).L(r2) + L((r1)) = L(r1) + L(r1*) = (L(r1))* 5. NGÔN NGỮ PHI NGỮ CẢNH Trong thực tế hàng ngày không phải tất cả các ngôn ngữ điều là chính qui. Trong khi ngôn ngữ chính qui hiệu quả trong việc mô tả một vài mẫu đơn giản do đó người ta không cần chú ý quá nhiều đến các ngôn ngữ chính qui vì có nhiều sự hạn chế của nó đối với ngôn ngữ lập trình. Ví dụ: Nếu trong L={anbn : n³0}, chúng ta thay thế dấu ngoặc trái cho a và dấu ngoặc phải cho b thì chuỗi các dấu ngoặc chẳng hạn như (( )) và ((( ))) là thuộc L nhưng (( ) thì không mà trong một ngôn ngữ lập trình thì thường xuyên gặp những cấu trúc lồng nhau như vậy. Do đó ta thấy một vài thuộc tính của ngôn ngữ lập trình yêu cầu một cái gì đó bên ngoài ngôn ngữ chính qui, để bao trùm những vấn đề này ta phải mở rộng ngôn ngữ dẫn đến việc nguyên cứu ngôn ngữ và văn phạm phi ngữ cảnh. 5.1- Văn Phạm Phi Ngữ Cảnh Các luật sinh trong văn phạm chính qui thì bị giới hạn theo 2 cách : Vế phải là một biến đơn, trong khi đó vế phải có một dạng đặc biệt. Để tạo ra văn phạm mạnh hơn, chúng ta phải nới lỏng một vài giới hạn như vậy, bằng cách duy trì giới hạn trên vế trái nhưng cho phép bất kỳ cái gì trên vế phải khi đó chúng ta nhận được một văn phạm phi ngữ cảnh. Định Nghĩa Một văn phạm G =(V,T,S,P) được gọi là phi ngữ cảnh nếu mọi luật sinh trong P có dạng : A-->x trong đó AỴV còn xỴ (VÈT)*. Một ngôn ngữ được gọi là phi ngữ cảnh nếu và chỉ nếu có một văn phạm phi ngữ cảnh G sao cho L= L(G). 5.2- Dẫn Xuất Trái Nhất Và Phải Nhất Trong văn phạm phi ngữ cảnh mà không tuyến tính, một dẫn xuất có thể bao gồm nhiều dạng câu với nhiều hơn một biến, trong trường hợp như vậy chúng có có một sự chọn lựa về thứ tự biến nào được thay thế. Một dẫn xuất được gọi là trái nhất nếu trong mỗi bước biến bên trái nhất được thay thế. nếu trong mỗi bước biến bên phải nhất được thay thế thì gọi dẫn xuất trái nhất. 5.3 - Cây Dẫn Xuất Một cách thứ hai để trình bày các dẫn xuất, độc lập với thứ tự trong đó các luật sinh được áp dụng là bằng cây dẫn xuất. Một cây dẫn xuất là một cây có thứ tự trong đó các nốt được gán nhãn với vế trái của luật sinh còn các con của các nốt biểu diễn bằng vế phải tương ứng của nó Ví dụ : A--> abABc thì cây dẫn xuất là : A B A c b a Định Nghĩa Cho G=(V,T,S,P) là một văn phạm phi ngữ cảnh. Một cây có thứ tự là một cây dẫn xuất cho G nếu và chỉ nếu có các tính chất sau: + Gốc được gán nhãn là S + Mỗi lá có một nhãn lấy từ tập (TÈ{l}) + Mỗi nốt bên trong không phải là lá có một nhãn lấy từ V. + Nếu nỗi nốt có nhãn AỴV, và các con của nó được gán nhãn (từ trái sang phải) a1, a2.... an thì P phải chứa một luật sinh có dạng A--> a1, a2.... an + Một lá được gán nhãn l không có anh chị e, tức là một nốt với một con được gán nhãn l có thể không có con nào khác. Ngoài ra còn có một số khái niệm khác chưa được nêu ra ở đây, các bạn có thể tìm hiểu thêm trong “An Introduction To Formal Languages And Automata” của Peter Linz CHUƠNG 2 MỘT SỐ GIẢI THUẬT BIẾN ĐỔI VĂN PHẠM PNC VÀ CÁC DẠNG CHUẨN Trong phần này, chúng ta đi sâu vào việc tìm hiểu một số giải thuật biến đổi văn phạm phi ngữ cảnh như : + Loại bỏ các luật sinh rỗng + Loại bỏ các luật sinh vô dụng + Loại bỏ các luật sinh đơn vị + Chuyển văn phạm bất kỳ về dạng chuẩn Chomsky + Chuyển văn phạm bất kỳ về dạng chuẩn Greibach Việc loại bỏ các luật sinh trên rất quang trọng làm tiền đề để có thể biến đổi tập văn phạm của ngôn ngữ phi ngữ cảnh về các dạng chuẩn quan trọng như dạng chuẩn Chomsky, dạng chuẩn Greibach. Từ đó giúp cho việc thực hiện một giải thuật phân tích cú pháp như CYK. I- CÁC GIẢI THUẬT BIẾN ĐỔI VĂN PHẠM 1) LOẠI BỎ CÁC LUẬT SINH RỖNG (l) Bất kỳ luật sinh nào của văn phạm phi ngữ cảnh có dạng A --> l được gọi là luật sinh l, và bất kỳ biến A nào mà đối với nó dẫn xuất A--*> l là có thể thì A gọi là khả trống. Nhập : - Một văn phạm phi ngữ cảnh G =(V,T,S,P) với : + V : Các kí hiệu không kết thúc. + T : Các kí hiệu kết thúc. + S : Biến khởi đầu + P : Tập các luật sinh Xuất : - Một văn phạm G^=( V,T,S,P^) với tập luật sinh P^ không có tập luật sinh rỗng. Giải Thuật Bước 1: Duyệt qua tất cả các luật sinh trong P, nếu có luật sinh nào có dạng A->l thì cho A vào tập Vn Bước 2 : Lặp lại bước sau cho đến khi nào không thêm được biến vào Vn được nữa : + Nếu trong P có tồn tại : B---> A1 A2 A3... An với A1 A2 A3... An Ỵ Vn thì cho B vào Vn Bước 3: Sau khi đã có tập Vn, xét mọi luật sinh trong P có dạng : A---> x1 x2... xm với m³1 và xi Ỵ (VÈ T) Đối với mỗi luật sinh như vậy của P, đặt vào P^ luật sinh đó cũng như những luật sinh bằng cách thay thế các biến khả trống (Ỵ Vn) bằng l trong mọi tổ hợp có thể có, ngoại trừ tất cả xi (i=1,2...) là khả trống thì không đặt luật sinh A->l vào trong P^ Ví dụ: Cho văn phạm G =({S,A,B,C,D},{a, b,d,l},{S},P) và các luật sinh trong P như sau : S ---> ABaC A ---> BC B ---> b | l C ---> D | l D ---> d Áp dụng giải thuật trên ta có : - Đầu tiên Vn={} Bước 1: Các luật sinh trực tiếp sinh B--->l, C--->l do đó Vn={B,C} Bước 2: Các luật sinh gián tiếp dẫn xuất ra rỗng là A--->BC do đó thêm A vào tập Vn => Vn={B,C,A} Bước 3 : Xây dựng các tổ hợp cho mỗi luật sinh bằng cách thay thế l cho những biến ở vế phải thuộc Vn, ta được luật P^: S ---> ABaC | BaC | AaC | ABa | aC | Ba | Aa | a B ---> b C ---> D A ---> BC | C | B 2) LOẠI BỎ CÁC LUẬT SINH ĐƠN VỊ Bất kỳ luật sinh của văn phạm phi ngữ cảnh có dạng A ---> B trong đó A,B thuộc V thì được gọi là luật sinh đơn vị. Nhập : - Một văn phạm phi ngữ cảnh G =(V,T,S,P) với : + V : Các kí hiệu không kết thúc. + T : Các kí hiệu kết thúc. + S : Biến khởi đầu + P : Tập các luật sinh Xuất : - Một văn phạm G^=( V,T,S,P^) với tập luật sinh P^ không có tập luật sinh đơn vị. Giải Thuật Bước 1 : Đặt vào P^ các luật sinh không đơn vị của P Bước 2 : Đối với mỗi luật sinh trong P có dạng A---> B (A ¹ B), thì đối với mỗi biến A tìm tất cả các biến B sao cho A--*> B Điều này có thể thực hiện được bằng cách vẽ đồ thị phụ thuộc cho G. Bước 3 : Xét tất cả các biến A và B thỏa mãn ở bước 2 , chúng ta sẽ thêm vào P^ các luật sinh sau : A ---> y1 | y2 | y3| ...|yn Trong đó B ---> y1 | y2 | y3| ...|yn là các luật sinh không đơn vị của B. Hay nói cách khác đặt các vế phải của các luật sinh không đơn vị của B ở trong P vào làm các vế phải của các luật sinh của A trong p^ Kết quả G^ sẽ tương đương với G mà P^ không chứa các luật sinh đơn vị Ghi chú : Nếu muốn trong P^ không chứa luật sinh rỗng