NEW Neural Network Là Gì – Bài 3: Neural Network

leephan chào đọc giả. Hôm nay, leephan sẽ đưa ra đánh giá khách quan về các tips, tricks hữu ích phải biết với bài chia sẽ Neural Network Là Gì – Bài 3: Neural Network

Đa số nguồn đều đc cập nhật ý tưởng từ những nguồn website nổi tiếng khác nên có thể vài phần khó hiểu.

Mong mọi người thông cảm, xin nhận góp ý và gạch đá dưới comment

Khuyến nghị:

Quý độc giả vui lòng đọc bài viết này ở trong phòng kín đáo để có hiệu quả tốt nhất
Tránh xa toàn bộ những thiết bị gây xao nhoãng trong các công việc đọc bài
Bookmark lại nội dung bài viết vì mình sẽ cập nhật thường xuyên

Bài trước chúng ta đã học về thuật toán hồi quy logistic với giá trị đầu ra nhị phân. Tuy nhiên, hồi quy logistic là một mô hình mạng nơ ron đơn giản, bài này chúng ta sẽ tìm hiểu mô hình mạng nơ ron đầy đủ.

Bạn đang xem: Mạng nơ ron là gì?

Bạn Nên Hoàn thành 2 bài học trước hồi quy tuyến tính và hồi quy logistic trước khi vào bài học này. Có rất nhiều ký hiệu và công thức trong hướng dẫn này, vì vậy bạn nên chuẩn bị sẵn giấy bút để bắt đầu.

Mạng nơron là gì?

Một con chó có thể phân biệt giữa các thành viên trong gia đình và người lạ hoặc một đứa trẻ có thể phân biệt động vật. Những điều tưởng chừng rất đơn giản nhưng lại vô cùng khó thực hiện với máy tính. Vậy sự khác biệt nằm ở đâu? Câu trả lời nằm trong bộ não với số lượng lớn các tế bào thần kinh liên kết với nhau. Khi đó máy tính có nên mô phỏng mô hình đó để giải quyết các vấn đề trên không ???

Neural là một tính từ của neuron (tế bào thần kinh), network dùng để chỉ cấu trúc đồ thị nên neural network (NN) là một hệ thống tính toán lấy cảm hứng từ hoạt động của các nơ-ron trong hệ thần kinh.

Hoạt động của tế bào thần kinh

*

Để tóm tắt, chúng tôi sẽ kết hợp hai bước trên thành một trên biểu đồ

*

Mô hình mạng nơron

Lớp đầu tiên là lớp đầu vào, lớp giữa được gọi là lớp ẩn, lớp cuối cùng được gọi là lớp đầu ra. Các vòng tròn được gọi là các nút.

Mỗi mô hình luôn có một lớp đầu vào, một lớp đầu ra, có hoặc không có các lớp ẩn. Tổng số lớp trong mô hình được quy ước là số lớp – 1 (Không tính các lớp đầu vào).

Ví dụ, trong hình trên có 1 lớp đầu vào, 2 lớp ẩn và 1 lớp đầu ra. Số lớp của mô hình là 3 lớp.

Mỗi nút trong lớp ẩn và lớp đầu ra:

Liên kết tất cả các nút trong lớp trước với hệ số w của riêng chúng. Mỗi nút có hệ số thiên vị riêng b. Có 2 bước: tính tổng tuyến tính và áp dụng hàm kích hoạt.

Ký tên

Số nút trong lớp ẩn thứ i là l ^ (i).

Ma trận W ^ (k) có kích thước l ^ (k-1) * l ^ (k) là ma trận hệ số giữa lớp (k-1) và lớp k, trong đó w_ ij ^ (k) là hệ số kết nối từ nút thứ i của lớp k-1 đến nút thứ j của lớp k.

Vectơ b ^ (k) có kích thước l ^ k * 1 là hệ số thiên vị của các nút trong lớp k, trong đó b_i ^ (k) là độ lệch của nút thứ i trong lớp k.

Đối với nút thứ i trong lớp l có bias b_i ^ (l), hãy thực hiện 2 bước:

Tính tổng tuyến tính: z_i ^ (l) = sum_ j = 1 ^ l ^ (l-1) a_j ^ (l-1) * w_ ji ^ (l) + b_i ^ (l), là tổng của tất cả các nút trong lớp trước đó nhân với hệ số w tương ứng, sau đó cộng với độ lệch b. Áp dụng chức năng kích hoạt: a_i ^ (l) = sigma (z_i ^ (l))

Véc tơ z ^ (k) có kích thước l ^ (k) * 1 là giá trị của các nút trong lớp k sau khi tính tổng tuyến tính.

Vectơ a ^ (k) có kích thước l ^ (k) * 1 là giá trị của các nút trong lớp k sau khi áp dụng hàm kích hoạt.

*

Tương tự, chúng ta có:

z ^ (2) = (W ^ (2)) ^ T * a ^ (1) + b ^ (2) newline a ^ (2) = sigma (z ^ ) (2)) newline z ^ (3) = (W ^ (3)) ^ T * a ^ (2) + b ^ (3) newline hat y = a ^ (3) = sigma (z ^ (3))

*

Vì vậy

*

Vì vậy có thể tính giá trị dự đoán của nhiều dữ liệu cùng một lúc dưới dạng ma trận.

Xem thêm: Triển lãm Lễ hội Hoa lan Thanh Thủy, Triển lãm Hoa Lan lần thứ 3 năm 2020

Bây giờ từ đầu vào X, chúng ta có thể tính toán giá trị dự đoán hat Y, nhưng việc chính cần làm là tìm các hệ số W và b. Người ta có thể nghĩ ngay đến thuật toán gradient descent và điều quan trọng nhất trong thuật toán gradient descent là tìm đạo hàm của các hệ số đối với hàm mất mát. Và việc tính đạo hàm của các hệ số trong mạng nơron được thực hiện bởi thuật toán Lan truyền ngược, sẽ được giới thiệu trong bài tiếp theo. Và vì bài này có quá nhiều công thức sợ mọi người nhầm lẫn nên code sẽ để ở bài sau.

Hồi quy logistic với XOR. nhà điều hành

Phần này là tùy chọn, nó giúp giải thích rằng với nhiều lớp hơn, mô hình có nhiều khả năng giải quyết các vấn đề phức tạp hơn. Cụ thể, mô hình hồi quy logistic của bài viết trước không thể đại diện cho toán tử XOR, nhưng nếu bạn thêm một lớp ẩn với 2 nút giữa lớp đầu vào và lớp đầu ra, thì toán tử XOR có thể được biểu diễn.

AND, OR, XOR là các phép toán thực hiện số học trên các bit. Vậy bit là gì? bạn không cần quan tâm, chỉ cần biết mỗi bit nhận 1 trong 2 giá trị là 0 hoặc 1.

KHÔNG PHẢI

Phép toán NOT 1 bit mang lại giá trị ngược lại.

Phép toán AND của 2 bit cho giá trị 1 nếu cả hai bit bằng 1 và cho giá trị 0 trong mọi trường hợp khác. Bảng sự thật

Bây giờ chúng ta muốn máy tính học toán tử AND, chúng ta thấy rằng kết quả là 0 và 1, vì vậy chúng ta nghĩ ngay đến hồi quy logistic với dữ liệu.

*

Hình 1: x_1 VÀ x_2

*

Hình 2: KHÔNG (x_1 VÀ x_2)

HOẶC

Phép toán OR của 2 bit cho giá trị 1 nếu 1 trong 2 bit là 1 và cho giá trị 0 trong tất cả các trường hợp khác. Bảng sự thật

Tương tự, chúng ta cũng tìm thấy w_0 = -0,5, w_1 = 1, w_2 = 1

*

Mô hình XOR

Có vẻ khó hiểu, hãy phân tích:

nút KHÔNG (x_1 VÀ x_2) từ hình 2, với 3 mũi tên trỏ đến từ 1, x_1, x_2 với các hệ số w_0, w_1, w_2 tương ứng 1,5, -1, -1, nút tính x_1 HOẶC x_2 là từ hình 3 nút ở lớp đầu ra là phép tính AND từ 2 nút của lớp trước, giá trị hệ số từ hình 1 đưa xuống.

Nhận xét: mô hình hồi quy logistic không giải quyết được vấn đề XOR, nhưng mô hình mới của chúng tôi có thể giải quyết vấn đề XOR. Sự khác biệt là gì:

Hồi quy logistic chỉ từ lớp đầu vào và lớp đầu ra Mô hình mới có 1 lớp ẩn với 2 nút ở giữa lớp đầu vào và lớp đầu ra

=> Có vẻ như càng nhiều lớp và nhiều nút thì càng có thể giải quyết được nhiều vấn đề phức tạp hơn.

Nguồn tổng hợp

Đánh Giá post
Xem thêm bài viết thuộc chuyên mục: MMO
Lee Phan
Mình biết tới Digital Marketing từ 2015. Hiện tại chủ yếu mình đánh kênh Free Traffic như SEO, Youtube.... Anh em theo dõi mình từ 2016 sẽ biết mình chuyên về SEO. Đến 2018 mình có thêm tư duy về các kênh Paid Traffic. Đầu 2019, với sự hỗ trợ của một số tay to trong ngành MMO, mình dần quen và thành thạo luôn OMNI CHANNEL
Not found image
NEW Những Cách Đầu Tư Hiệu Quả Đem Lại Lợi Nhuận Lâu Dài, 6 Kênh Đầu Tư Hiệu Quả Đem Lại Lợi Nhuận Lâu Dài
leephan chào đọc giả. Ngày hôm nay, mình sẽ đưa ra đánh giá khách quan về các tips, tricks hữu ích phải biết qua bài...
Not found image
NEW Harga Monero (Xmr), Grafik, Kap Pasar, Dan Metrik Lainnya, Jual Monero Murah
leephan chào đọc giả. Today, tôi xin góp chút kinh nghiệm cá nhân về mẹo vặt, kinh nghiệm không thể thiếu trong đời sống với...
Not found image
NEW Mô Hình Nến Doji Và Doji Bóng Dài, Bài 2 : Các Loại Nến Doji
leephan chào đọc giả. Hôm nay, mình mạn phép đưa ra đánh giá chủ quan về kinh nghiệm, tin tức qua bài viết Mô Hình...