Đo lường trình bày cách tiếp cận nội dung thông tin

Lớp học: 10.

Mục đích của bài học: Để dạy cách đo lượng thông tin của tin nhắn thông qua cách tiếp cận có ý nghĩa.

Mục tiêu bài học:

• giáo dục: dạy cách đo lượng thông tin của tin nhắn thông qua cách tiếp cận có ý nghĩa.
• Phát triển: phát triển tư duy, lời nói, kỹ năng vận động tinh, nhận thức giàu trí tưởng tượng.
• giáo dục: sự ghép thái độ cẩn thận với thông tin và công nghệ, chịu trách nhiệm cá nhân về kết quả công việc, tính chính xác, kiên trì, tự giác.

Loại bài học: Giải thích về tài liệu mới với các yếu tố của một buổi hội thảo.

Sách giáo khoa:

• “Tin học 10” (khóa cơ bản), ed. N.V. Makarova, “Peter”, 2003.
• Ugrinovich N.D. Khoa học máy tính. Khóa học cơ bản Lớp 10. - M.: Nhà xuất bản BINOM.

Các khái niệm cơ bản:

• Phương pháp chia một nửa;

Trong các lớp học

I. Thời điểm tổ chức

Tạo tâm trạng cho môi trường làm việc.

II. Vật liệu mới

Trong bài học trước chúng ta đã học cách phân biệt những thông điệp mang tính thông tin với những thông điệp không mang tính thông tin.

Chúng tôi phát hiện ra rằng để xác định lượng thông tin trong một thông báo về sự xuất hiện của một sự kiện trong số hơn hai sự kiện có thể xảy ra như nhau, cần có công thức sau: ​​“Một thông báo làm giảm độ không chắc chắn lên 2 lần chứa 1 bit thông tin .” Chúng tôi đã phân tích vấn đề tung đồng xu: “Trước khi tung đồng xu, có hai kết quả có thể xảy ra như nhau. Điều này xác định sự không chắc chắn của tình hình. Nói cách khác, sự không chắc chắn là số lượng các sự kiện có thể xảy ra. Sau khi nhận được tin nhắn kết quả, chỉ còn lại một lựa chọn. Sự không chắc chắn của tình hình đã giảm đi bao nhiêu?”

Bây giờ chúng ta hãy giải quyết vấn đề xác định lượng thông tin trong một tin nhắn bằng phương pháp chia đôi (phân đôi). Vì vậy, tại mỗi bước tìm kiếm, chính xác một nửa số lựa chọn có thể bị loại bỏ. Chúng ta sẽ tổ chức công việc theo hình thức trò chơi “Đoán đáp án”.

Ví dụ, tôi nghĩ rằng có một cuốn sách ở trên giá nào đó, nhưng tôi không nói cho bạn biết về nó. Bạn cần xác định xem cuốn sách đang ở trên kệ nào trong số 8 kệ. Các câu hỏi phải được đặt sao cho mỗi câu trả lời (“có” hoặc “không”) sẽ giảm đi độ chính xác một nửa độ không chắc chắn. Vì vậy, dù có đặt bao nhiêu câu hỏi thì cũng có rất nhiều thông tin mang thông điệp về đối tượng được đoán. Điền vào trong trò chơi ban 2, thiết lập mối quan hệ giữa số lượng sự kiện và lượng thông tin trong tin nhắn.

Phân tích giải pháp cho các vấn đề trước đó, chúng tôi giới thiệu biểu tượng và chúng ta suy ra công thức của R. Hartley. Ví dụ: chuỗi lý luận có thể như sau:

1. Khi đoán dấu, hai câu hỏi được đặt ra, mỗi câu hỏi làm giảm một nửa độ không chắc chắn của tình huống và có tổng cộng bốn phương án khả thi. Hình thức hóa lý luận – 2 · 2 = 4, tức là 2 2 = 4.
2. Khi đoán vị trí của cuốn sách, ba câu hỏi được đặt ra, mỗi câu hỏi trong số đó làm giảm một nửa độ không chắc chắn của tình huống và tổng cộng có tám phương án khả thi. Hình thức hóa lý luận – 2 · 2 · 2 = 8, tức là 2 3 = 8.
3. Dựa vào đó ta có thể rút ra công thức 2 tôi = N, Ở đâu Tôi– lượng thông tin trong tin nhắn, N– số lượng tùy chọn (sự kiện).
4. Chúng tôi sử dụng công thức kết quả để xác định lượng thông tin khi tung đồng xu. 2 1 = 2, Tôi= 1 chút.

Con số 2 trong công thức có nghĩa là giảm độ không đảm bảo đo xuống một nửa, phù hợp với định nghĩa của khái niệm “bit”. Sử dụng công thức, chúng ta điền vào bảng lũy ​​thừa số nguyên của hai lên tới 210 = 1024. Bảng thiết lập mối quan hệ giữa lượng thông tin trong tin nhắn ( Tôi) và số lượng các sự kiện có thể xảy ra như nhau ( N) và hỗ trợ học sinh giải quyết vấn đề.

Hãy tạo một sơ đồ chung:

Hãy giải quyết vấn đề bằng cách sử dụng một ví dụ.

Nhiệm vụ 1. Các lớp học có thể diễn ra tại một trong các phòng, được đánh số từ 1 đến 16. Tin nhắn của giáo viên chứa bao nhiêu thông tin về việc các lớp học sẽ được tổ chức ở phòng số 7?

III. Tóm tắt

Hôm nay chúng ta đã học:

• Phương pháp chia một nửa;
• Đo lượng thông tin trong tin nhắn theo hai cách: bằng công thức và bằng phương pháp chia đôi,
• Đo lượng thông tin trong tin nhắn qua một số hành động,
• Đo lường số lượng sự kiện nếu biết được khối lượng thông tin của tin nhắn.

IV. Bài tập về nhà

Giải bài toán: Trong một túi có 16 quả táo đỏ. Tin nhắn bạn nhận được quả táo đỏ chứa bao nhiêu thông tin?

1) một người nhận được tin nhắn về một sự kiện nào đó; nó được biết trước kiến thức không chắc chắn người đó về sự kiện dự kiến. Độ không chắc chắn của kiến ​​thức có thể được thể hiện bằng số lượng các phương án có thể có cho một sự kiện hoặc bằng xác suất của các phương án dự kiến ​​cho một sự kiện; 2) do nhận được tin nhắn, sự không chắc chắn về kiến ​​thức sẽ bị loại bỏ: từ một số lựa chọn có thể có, một lựa chọn đã được chọn; 3) công thức tính lượng thông tin trong tin nhắn nhận được, tính bằng bit.

Công thức được sử dụng để tính lượng thông tin tùy thuộc vào các tình huống, trong đó có thể có hai:

• 2. Xác suất ( P) các tùy chọn có thể có cho sự kiện này là khác nhau và chúng được biết trước:

(P Tôi ), Tôi = 1.. N. Nó vẫn ở đây N- số lượng các tùy chọn có thể có cho sự kiện này.

• 1. Mọi thứ những lựa chọn khả thi các sự kiện đều có khả năng xảy ra như nhau. Số lượng của chúng là hữu hạn và bằng nhau N .

Những sự kiện có thể xảy ra như nhau. Nếu được biểu thị bằng chữ cái Tôi lượng thông tin trong tin nhắn cho biết một trong các sự kiện đã xảy ra N các sự kiện có thể xảy ra như nhau thì các giá trị Tôi Và N có liên hệ với nhau bởi công thức Hartley:

2 Tôi = N

1 bit là lượng thông tin trong tin nhắn về một trong hai sự kiện có khả năng xảy ra như nhau .

Công thức Hartley là một phương trình hàm mũ. Nếu như Tôi là một đại lượng chưa biết thì nghiệm của phương trình này sẽ là:

Tôi= nhật ký 2 N

Các công thức này giống hệt nhau.

• Ví dụ 1. Thông điệp mà một quân hậu được rút ra từ một bộ bài chứa bao nhiêu thông tin?

Giải pháp: Có 32 lá bài trong bộ bài. Trong một bộ bài xáo trộn, việc mất bất kỳ quân bài nào cũng có khả năng xảy ra như nhau. Nếu như Tôi- lượng thông tin trong thông báo rằng một lá bài cụ thể đã rơi (ví dụ: quân bài bích), sau đó từ phương trình của Hartley:

2 Tôi = 32 = 2 5

Từ đây: Tôi= 5 bit.

• Ví dụ 2. Thông điệp về việc tung một mặt có số 3 trên xúc xắc sáu mặt chứa bao nhiêu thông tin?

Giải pháp: Coi việc mất bất kỳ cạnh nào là một sự kiện có khả năng xảy ra như nhau, chúng ta viết công thức Hartley:

2 Tôi = 6.

Từ đây: Tôi= log 2 6 = 2,58496 bit.

Các sự kiện có thể xảy ra không đồng đều (phương pháp xác suất). Nếu xác suất của một sự kiện nào đó là P , MỘT Tôi (bit) là lượng thông tin trong tin nhắn cho biết sự kiện này đã xảy ra, khi đó các lượng thông tin này có liên hệ với nhau theo công thức:

2 Tôi = 1/ P

Giải phương trình hàm mũ này cho Tôi, chúng tôi nhận được:

Tôi= log 2 (1/ P) Công thức Shannon

Cách tiếp cận định tính

• Thông tin là kiến ​​thức mọi người nhận được từ nhiều thông điệp khác nhau.
• Tin nhắn - Cái này luồng thông tin(luồng dữ liệu), trong quá trình truyền thông tin, sẽ đến được thực thể nhận.

Tin nhắn

Nhiều thông tin tin nhắn , bổ sung kiến ​​​​thức của con người, tức là. mang thông tin cho anh ta.

Không có thông tin thông tin là "cũ", tức là người đó đã biết điều này hoặc nội dung của tin nhắn không rõ ràng đối với người đó

Cách tiếp cận định lượng trong xấp xỉ khả năng trang bị

Các sự kiện đều có khả năng xảy ra như nhau , nếu không ai trong số họ có lợi thế hơn những người khác.

Hãy xem một ví dụ. “Thông điệp về kết quả ném xúc xắc sáu mặt truyền tải được bao nhiêu thông tin?” Từ phương trình Hartley: 2 Tôi = 6.

Kể từ 2 2 tôi

Sau đó chúng tôi xác định thêm giá trị chính xác(chính xác đến năm chữ số thập phân) Tôi= 2,58496 bit. Lưu ý rằng khi cách tiếp cận này lượng thông tin có thể được biểu diễn dưới dạng phân số.

Phương pháp xác suất đo lường thông tin

Xác suất của một biến cố nào đó là đại lượng có thể nhận các giá trị từ 0 đến một.

Xác suất không thể nào sự kiện bằng số không

(ví dụ: “ngày mai Mặt trời sẽ không nhô lên trên đường chân trời”)

Xác suất đáng tin cậy sự kiện thứ bằng đơn vị

(ví dụ: “Ngày mai mặt trời sẽ mọc phía trên đường chân trời”).

Xác suất một số các sự kiện được xác định thông qua các quan sát lặp đi lặp lại (đo lường, kiểm tra). Các phép đo như vậy được gọi là thống kê. Vậy thì sao số lượng lớn các phép đo được thực hiện thì xác suất của một sự kiện được xác định càng chính xác.

Hãy xem xét một vài ví dụ:

Ví dụ 3. Hai tuyến xe buýt dừng tại bến xe: số 5 và số 7. Học sinh được giao nhiệm vụ: xác định xem trong tin nhắn xe buýt số 5 đã đến bến có bao nhiêu thông tin và có bao nhiêu thông tin. có trong tin nhắn rằng xe buýt số 7 đã đến.

Giải pháp: Các sinh viên đã thực hiện nghiên cứu. Trong suốt ngày làm việc, anh ước tính xe buýt đã đến điểm dừng 100 lần. Trong đó, xe buýt số 5 đến 25 lần và xe buýt số 7 đến gần 75 lần. Giả sử các ngày khác xe buýt chạy với tần suất như nhau, sinh viên tính xác suất xe buýt số 5 xuất hiện tại điểm dừng: P 5 = 25/100 = 1/4 và xác suất xe buýt số 7 xuất hiện: P 7 = 75/100 = 3/4.

Do đó, lượng thông tin trong tin nhắn về xe buýt số 5 bằng: Tôi 5 = log 2 4 = 2 bit. Lượng thông tin trong tin nhắn về xe buýt số 7 bằng:

Tôi 7 = log 2 (4/3) = log 2 4 – log 2 3 = 2 – 1,58496 = 0,41504 bit.

Ví dụ 4 . Hãy xem xét một phiên bản khác của bài toán xe buýt. Xe buýt số 5 và số 7 dừng tại bến, thông báo xe buýt số 5 đã đến bến mang theo 4 bit thông tin. Xác suất xe buýt số 7 xuất hiện tại điểm dừng nhỏ hơn hai lần so với xác suất xuất hiện của xe buýt số 5. ​​Thông báo về xe buýt số 7 xuất hiện tại điểm dừng mang theo bao nhiêu bit thông tin?

Giải pháp: Ta viết điều kiện bài toán dưới dạng sau:

Tôi 5 = 4 bit, P 5 = 2 P 7

Hãy nhớ mối liên hệ giữa xác suất và lượng thông tin: 2 Tôi = 1/ P

Từ đây: P = 2 – Tôi

Thay thế vào đẳng thức từ điều kiện của bài toán, ta được:

Trả lời miệng các câu hỏi:

• Thông tin có nghĩa là gì?
• Bạn có thể làm gì với thông tin?
• Bạn biết những loại biểu diễn thông tin nào trong máy tính?
• Những kỹ thuật mã hóa tin nhắn nào đã được sử dụng vào thời cổ đại?
• Mã và mã hóa thông tin là gì?
• Cho ví dụ theo nhiều cách khác nhau mã hóa thông tin.
• Liệt kê những ưu điểm và nhược điểm của việc mã hóa được sử dụng trong máy tính.
• Tên của mã hóa được sử dụng để thể hiện các ký tự được nhập từ bàn phím là gì?

• Chúng ta hãy nghĩ xem điều gì có thể dùng để ước tính lượng thông tin?
• Có đúng là nó bị mòn không
• cuốn sách, nếu không có trong đó
• trang bị rách, mang theo
• có số lượng chính xác như bạn
• thông tin thì giống nhau bao nhiêu
• mới?

• Chúng ta hãy nghĩ xem điều gì có thể dùng để ước tính lượng thông tin?
• Một khối đá nặng ba tấn mang theo nhiều thông tin cho các nhà khảo cổ học như một bức ảnh đẹp về nó trên một tạp chí khảo cổ học.
• Không phải nó?

Chúng ta hãy nghĩ xem điều gì có thể dùng để ước tính lượng thông tin?

• Chúng ta hãy nghĩ xem điều gì có thể dùng để ước tính lượng thông tin?
• Khi một đài phát thanh ở Mátxcơva phát tin tức mới nhất, cả cư dân ở khu vực Mátxcơva và cư dân ở Novosibirsk đều nhận được thông tin tương tự. Nhưng dòng năng lượng sóng vô tuyến ở Novosibirsk ít hơn nhiều so với ở Moscow.

• Do đó, công suất tín hiệu cũng như trọng lượng của sóng mang không thể dùng để ước tính lượng thông tin mà tín hiệu mang theo.
• Vậy làm thế nào chúng ta có thể đo lường được lượng thông tin?

• Các cách tiếp cận khác nhau để xác định và đo lường thông tin
• Ý nghĩa
• (xác suất) cách tiếp cận:
• Lượng thông tin như một thước đo giảm thiểu sự không chắc chắn
• kiến thức

• Xem video

Hãy tóm tắt những gì đã được nói

• Hãy để chúng tôi
• có một đồng xu
• mà chúng tôi
• ném nó lên mặt phẳng
• bề mặt.

• Sự kiện có thể xảy ra

• Sự kiện đã xảy ra

• Một trong những điều sau đây có khả năng xảy ra như nhau
• hai sự kiện có thể xảy ra - một đồng xu
• sẽ kết thúc ở một trong hai vị trí:
• "đầu hoặc đuôi".

• Các sự kiện đều có khả năng xảy ra như nhau nếu với số lượng thí nghiệm ngày càng tăng, số mặt ngửa và mặt sấp dần dần trở nên gần nhau hơn.

• Trước khi ném có sự không chắc chắn về kiến ​​​​thức của chúng tôi ( hai sự kiện có thể xảy ra), và sau cú ném là hoàn toàn chắc chắn.
• Sự không chắc chắn về hiểu biết của chúng ta giảm đi một nửa, vì trong số hai sự kiện có thể xảy ra như nhau, một sự kiện đã được nhận ra.

Giảm sự không chắc chắn về kiến ​​thức

• Khi ném một hình chóp tứ diện đều, có 4 trường hợp có thể xảy ra như nhau.

• Khi ném một con súc sắc sáu mặt, có
• 6 sự kiện có thể xảy ra như nhau.

Giảm sự không chắc chắn về kiến ​​thức

• Một thông điệp làm giảm đi một nửa sự không chắc chắn về kiến ​​thức,
• mang 1 bit thông tin.

• Chút - đơn vị tối thiểuđo lường thông tin.

• 1 byte = 23 bit = 8 bit
• 1 KB = 210 byte = 1024 byte
• 1 MB = 210 KB = 1024 KB
• 1 GB = 210 MB = 1024 MB

• GB

• kbyte

• MB

• bệnh lao

• :1024

• :1024

• :1024

• :1024

• *1024

• *1024

• *1024

• *1024

• Lượng thông tin i chứa trong thông báo rằng một trong N sự kiện có khả năng xảy ra như nhau đã xảy ra được xác định bằng cách giải phương trình hàm mũ
• 2i = N

• Nhiệm vụ: Trong roulette, tổng số lỗ là 128. Chúng ta sẽ nhận được bao nhiêu thông tin trong một thông báo trực quan về việc quả bóng dừng lại ở một trong các lỗ?

• N=128

• Tôi - ?

• Được cho:

• Giải pháp:

• 2i = N
• 2i = 128
• 27 = 128
• tôi = 7 bit

• Đáp án: i = 7 bit

• Số sự kiện có thể xảy ra và lượng thông tin

Nhiệm vụ:

• Nhiệm vụ:
• Có 32 cây bút chì trong hộp, tất cả các cây bút chì đều có màu sắc khác nhau. Họ ngẫu nhiên rút ra một cái màu đỏ. Đã thu được bao nhiêu thông tin?

• Giải pháp.
• Vì việc rút một cây bút chì màu bất kỳ từ 32 cây bút chì trong hộp đều có xác suất như nhau nên số trường hợp có thể xảy ra là 32.
• N = 32, tôi = ?
• N = 2i, 32 = 25, i = 5 bit.
• Trả lời: 5 bit

№ 1

• Cuốn sách có 512 trang. Một thông báo truyền tải bao nhiêu thông tin về dấu trang trên một trang?

• Giải quyết vấn đề trong một cuốn sổ tay

№ 2

• Thông báo trên một trường hình vuông 4x4 chứa bao nhiêu thông tin, một trong các ô được tô màu?

• Giải quyết vấn đề trong một cuốn sổ tay

№ 3

• Thông điệp về việc tung một mặt có số 3 trên xúc xắc sáu mặt chứa bao nhiêu thông tin?

• Giải quyết vấn đề trong một cuốn sổ tay

Ý nghĩa của cách tiếp cận nội dung để đo lường thông tin là gì?

• Ý nghĩa của cách tiếp cận nội dung để đo lường thông tin là gì?
• Công thức nào đã được nghiên cứu?
• Kể tên theo thứ tự tăng dần những đơn vị đo lường thông tin mà bạn biết.
• Đơn vị đo lường thông tin có mối liên hệ với nhau như thế nào?

• Cố định vật liệu

1. Bạn đến gần đèn giao thông khi đèn đỏ. Sau đó đèn vàng bật sáng. Bạn đã nhận được bao nhiêu thông tin?

• 1. Bạn đến gần đèn giao thông khi đèn đỏ. Sau đó đèn vàng bật sáng. Bạn đã nhận được bao nhiêu thông tin?

• Giải quyết bằng miệng

2. Bạn đến gần đèn giao thông khi đèn vàng. Sau đó đèn chuyển sang màu xanh. Bạn đã nhận được bao nhiêu thông tin?

• 2. Bạn đến gần đèn giao thông khi đèn vàng. Sau đó đèn chuyển sang màu xanh. Bạn đã nhận được bao nhiêu thông tin?

• Giải quyết bằng miệng

3. "Bạn có xuống ở điểm dừng tiếp theo không?" - họ hỏi người đàn ông trên xe buýt. “Không,” anh trả lời. Câu trả lời chứa bao nhiêu thông tin?

• 3. "Bạn có xuống ở điểm dừng tiếp theo không?" - họ hỏi người đàn ông trên xe buýt. “Không,” anh trả lời. Câu trả lời chứa bao nhiêu thông tin?

• Giải quyết bằng miệng

4. Thông báo cho biết chương trình bạn cần có bao nhiêu thông tin trên một trong tám đĩa mềm?

• 4. Thông báo cho biết chương trình bạn cần có bao nhiêu thông tin trên một trong tám đĩa mềm?

• Giải quyết bằng miệng

Bài tập về nhà

• 1. Phân tích các mục trong sổ ghi chép.
• 2. Giải 2 bài toán riêng lẻ trên thẻ.

3 Phương pháp đo lường thông tin dựa trên nội dung Đối với con người, thông tin là tri thức của con người. Chúng ta hãy xem xét vấn đề từ quan điểm này. Biên lai thông tin mới dẫn tới kiến ​​thức được nâng cao. Nếu một thông điệp nào đó làm giảm đi tính không chắc chắn trong hiểu biết của chúng ta thì chúng ta có thể nói rằng thông điệp đó chứa đựng thông tin. Theo đó, một tin nhắn mang tính thông tin (tức là chứa thông tin khác 0) nếu nó bổ sung thêm kiến ​​thức cho một người. Ví dụ: dự báo thời tiết ngày mai là một tin nhắn mang tính thông tin nhưng tin nhắn về thời tiết ngày hôm qua lại không mang tính thông tin vì chúng tôi đã biết điều này. Dễ hiểu rằng nội dung thông tin của cùng một tin nhắn có thể khác nhau đối với người khác. Ví dụ: “2x2=4” là thông tin bổ ích cho học sinh lớp một học bảng nhân nhưng không cung cấp thông tin cho học sinh trung học.

4 Nội dung thông tin của tin nhắn Nhưng để thông điệp có tính thông tin thì nó cũng phải dễ hiểu. Dễ hiểu có nghĩa là có liên quan một cách logic với kiến ​​thức trước đây của một người. Định nghĩa “ý nghĩa” tích phân xác định bằng hiệu giữa các giá trị của tích phân nguyên hàm ở giới hạn trên và giới hạn dưới,” rất có thể sẽ không nâng cao kiến ​​thức của học sinh trung học, bởi vì điều đó không rõ ràng đối với anh ta. Để hiểu được định nghĩa này, bạn cần học xong toán tiểu học và biết phần đầu của toán cao cấp. Việc tiếp thu bất kỳ kiến ​​thức nào cũng nên đi từ đơn giản đến phức tạp. Và khi đó mỗi tin nhắn mới sẽ đồng thời dễ hiểu, nghĩa là nó sẽ mang thông tin cho một người. Một tin nhắn mang thông tin cho một người nếu thông tin trong đó là mới và dễ hiểu đối với anh ta.

5 Đơn vị đo lường thông tin Rõ ràng, chỉ phân biệt hai tình huống: “không có thông tin” và “có thông tin” là chưa đủ để đo lường thông tin. Chúng ta cần một đơn vị đo lường để xác định tin nhắn nào chứa nhiều thông tin hơn và tin nhắn nào chứa ít thông tin hơn. Đơn vị đo lường thông tin được xác định trong một ngành khoa học gọi là lý thuyết thông tin. Đơn vị này được gọi là “bit”. Định nghĩa của nó như sau: Một thông điệp làm giảm đi một nửa độ không chắc chắn của kiến ​​thức mang 1 bit thông tin. Độ không chắc chắn của kiến ​​thức về một sự kiện là số kết quả có thể xảy ra của sự kiện đó.

6 Ví dụ: Sau khi làm bài kiểm tra hoặc hoàn thành bài kiểm tra, một học sinh bị dày vò bởi sự không chắc chắn, không biết mình được điểm mấy. "Vượt qua thất bại"? "2", "3", "4" hay "5"? Cuối cùng, giáo viên công bố kết quả và nhận được một trong hai tin nhắn: “đạt” hoặc “không đạt”, và sau khi làm bài thi, một trong bốn tin nhắn: “2”, “3”, “4” hoặc “5 ”. Một thông báo thông tin về đánh giá cho một bài kiểm tra sẽ làm giảm đi một nửa mức độ không chắc chắn về kiến ​​thức, vì một trong hai thông báo thông tin có thể được nhận. Thông báo thông tin về việc đánh giá cho Bài kiểm tra dẫn đến giảm bốn lần độ không chắc chắn về kiến ​​thức vì một trong bốn thông điệp thông tin có thể được nhận.

7 Ví dụ: Một giá sách có tám cái kệ. Cuốn sách có thể được đặt trên bất kỳ trong số họ. Tin nhắn chứa bao nhiêu thông tin về vị trí của cuốn sách? Chúng tôi đặt câu hỏi: - Cuốn sách có nằm phía trên kệ thứ tư không? - KHÔNG. - Cuốn sách có ở dưới kệ thứ ba không? - Đúng. - Cuốn sách có ở kệ thứ hai không? - KHÔNG. - Bây giờ mọi chuyện đã rõ ràng! Cuốn sách ở trên kệ đầu tiên! Mỗi câu trả lời làm giảm sự không chắc chắn xuống một nửa. Tổng cộng có ba câu hỏi đã được hỏi. Điều này có nghĩa là 3 bit thông tin đã được gõ. Và nếu người ta nói ngay rằng cuốn sách nằm ở kệ đầu tiên, thì 3 thông tin tương tự sẽ được truyền đi bằng tin nhắn này.

8 Công thức tính lượng thông tin Nếu chúng ta biểu thị số lượng sự kiện có thể xảy ra, hay nói cách khác là độ không chắc chắn của kiến ​​thức N, và chữ I là lượng thông tin trong thông báo rằng một trong N sự kiện đã xảy ra, thì chúng ta có thể viết công thức: 2 I = N Lượng thông tin chứa trong thông báo rằng một trong N sự kiện có khả năng xảy ra như nhau đã xảy ra, được xác định từ việc giải phương trình hàm mũ: 2 I = N.

10 Nhiệm vụ 1: Thông điệp về quân cờ được lấy từ một bộ bài chứa bao nhiêu thông tin? Giải: Bộ bài có 32 lá bài. Trong một bộ bài xáo trộn, bất kỳ lá bài nào rơi ra đều là một sự kiện có thể xảy ra như nhau. N = 32. Tôi - ? 2 I = N 2 I = = 32 I = 5 bit
12 12 Nhiệm vụ 2: Tin nhắn về số 3 xuất hiện trên xúc xắc sáu mặt chứa bao nhiêu thông tin? Giải: N = 6. Tôi - ? 2 Tôi = N 2 Tôi =