Học máy cơ bản - Hồi quy tuyết tính

Thuật toán hồi quy tuyến tính - một trong nhưng thuật toán cơ bản và đơn giản nhất của lĩnh vực Học Máy (Machine learning). Ví dụ trên ngôn ngữ lập trình Python

Để có cách nhìn tổng quan về học máy các bạn có thể tham khảo ở đây ...link

Định nghĩa

Hồi quy tuyến tính là mô hình mô tả sự phụ thuộc của 1 thông số đối với các thông số khác bằng phương trình tuyến tính.

Hồi quy tuyến tính đề cập đến nhiệm vụ xác định "đường thẳng phù hợp nhất" trên một tập hợp các điểm dữ liệu và đã trở thành tiền thân đơn giản của các phương pháp phi tuyến tính được sử dụng để đào tạo mạng nơ-ron. Trong bài viết này, chúng tôi sẽ chỉ cho bạn các ví dụ về hồi quy tuyến tính.

Ứng dụng

• Xử lý bài toán 1

Ví dụ

Cho một tập hợp N điểm.

Bài toán đặt ra là tìm đường thẳng thể hiện rõ nhất mỗi quan hệ giữa các điểm đó. Nhớ rằng phương trình đường thẳng f(x) = ax+b - a là góc nghiên của đường thằng, b là dịch chuyển tịnh tiến của đường thẳng. Như vậy để tìm đường thẳng tối ưu thể hiện mối quan hệ giữ các điểm chính là tìm các thông số a và b của đường thẳng đó.

Hàm mất mát

Hàm số mất mát là hàm số (công thức, phương trình v.v... ) dùng để đánh giá độ chính xác (đúng đắn) của mô hình cần tìm. Như vậy hàm mất mát phải bao gồm các điểm cần đánh giá và mô hình học ( trong bài toán này chính là w0 + w1*x + w2*y = 0). Ta cần đi tìm giá trị của {w0,w1,w2} sao cho hàm mất mát đặt giá trị nhỏ nhất ( nghĩa là sai số nhỏ nhất ).

Hàm mất mát của Hồi quy tuyến là thuật toán MSE - tổng trung bình phương khoảng cách của tất các điểm đánh giá đến đường thẳng cần tìm. Công thức tính khoảng cách từ 1 điểm (x1,y1) đến đường thẳng w0 + w1*x + w2*y = 0 là:

di = w0 + w1*xi + w2*yi

show less

Nhận dạng chứ viết tay bằng SVM

new project

show less

Học máy - machine learning

Tổng hợp các vấn đề liên quan đến học máy (machine learning): định nghĩa, ứng dụng, các bước trong học máy, thuật toán, cách lựa chọn thuật toán.

Nội dung

1. học máy và các dạng của học máy
2. Ứng dụng học máy
3. Các bước để ứng dụng học máy
4. Thuật toán
5. Lựa chọn thuật toán
6. Đánh giá thuật toán

Học máy là gì

Học máy là một lĩnh vực khoa học xây dựng các thuật toán giúp máy tính học và thực thi các hành động giống như con người (Ví dụ : chơi cờ tướng, cờ vua, nhận dạng chữ viết tay) bằng cách cung cấp cho máy tính bộ dữ liệu và thuật toán học và phân tích dữ liệu. Sau khi học xong máy tính ghi lại mô hình vừa học và sử dụng mô hình đó để thực thi các hành động đã học trên dữ liệu thực.

Các dạng học máy

1. học có giám sát
2. học ko giám sát
3. học tăng cường

Học có giám sát

Là dạng học máy mà trong đó dữ liệu học có cả dữ liệu đầu vào và đầu ra mong muốn. Thuật toán được áp dụng cho học máy tạo ra một mô hình ánh xạ từ dữ liệu đầu vào (x) đến dữ liệu đầu ra (y). Mô hình gần giống như hàm số : model(x) -> y. Quá trình học sẽ kết thúc khi đạt đcược độ chính xác mong muốn của mô hình.

Học không giám sát

Là dạng học máy mà trong đó dữ liệu học chỉ có dữ liệu đầu vào. Thuật toán học được áp dụng cho học máy sẽ tự tạo dữ liệu đầu ra trên cơ sở quan sát dữ liệu học. 

Học tăng cường

Là kiểu học trong học máy cho phép máy tính có thể học hành động tốt nhất từ dữ liệu học trong một điều kiện cụ thể. Trong học tăng cường bao giờ cũng có liên kết ngược để phản hồi kết quả. Một cách gọi khác của học tăng cường là học thích nghi. Thích nghi với biến đổi của môi trường giống như con người.

Các ứng dụng của học máy - học có giám sát

1. nhận dạng giọng nói
2. nhận dạng khuôn mặt
3. nhận dạng chứ viết tay
4. nhận dạng thư rác
5. tự động đánh giá chất lượng của hội thoại
6. ứng dụng chẩn đoán trọng y học.

Các ứng dụng của học máy - học không giám sát

1. phân tích quan hệ, phân loại trọng mạng xã hội để đưa ra dự báo, cảnh cáo, hỗ trợ.
2. phân tích các hành vi, thói quen của người dùng
3. hệ thống marketing dựa trên phận loại hành vi, vị trí, thói quen của người dùng.

Các úng dụng học tăng cường

1. điều khiển robot
2. điều khiển hệ thống đèn giao thông
3. hỗ trợ tìm kiếm, quảng cáo dựa vào hành vi thói quen của người dùng.
4. học sâu (deep learning)

Các bước để thực hiện học máy

1. Đặt đầu bài - định nghĩa vấn đề cần giải quyết
2. Phân tích dữ liệu
3. Chuẩn bị dữ liệu học - tập học, kết quả học, tập kiểm tra, kết quả kiểm tra.
4. Lựa chọn thuật toán - trên cơ sở phân tích dữ liệu để chọn thuật toán học cho phù hợp
5. đánh giá thuật toán
6. Tăng hiệu năng kết quả học

Các vấn đề lưu ý khi lựa chọn thuật toán

1. kiểu thuật toán
2. kích thước mô hình học
3. yêu cầu thông số đầu vào đầu ra
4. thời gian học
5. thời gian thực hiện

Các thuật toán

Hồi quy tuyến tính (linear regression)

import numpy as np
import pandas as pd
from matplotlib import pyplot as plt
from sklearn.linear_model import LinearRegression
from sklearn.metrics import mean_squared_error, r2_score
train = pd.read_csv("../input/random-linear-regression/train.csv") 
test = pd.read_csv("../input/random-linear-regression/test.csv") 
train = train.dropna()
test = test.dropna()
train.head()

show less

Ứng dụng mạng hopfield cho nhận dạng chữ số viết tay

Nhận dạng chữ số, mạng neuron hopfield, hướng dẫn lập trình từ A-Z

Khái niệm cơ bản

Q: Đối tượng được biểu diễn như thế nào trên máy vi tính?
A: Là 1 Vector 1 hoặc nhiều phần tử, cũng có thể là 1 ma trận 1 chiều hoặc nhiều chiều. Ví  dụ: [1], [1, 2, 0 ,3 , 3.2 ...]

Q: Làm thế nào để nhận dạng trên máy tính ?
A: Nhận dạng là sự so sánh đối tượng với đối tượng mẫu. Trong máy tính đối tượng được biểu diễn dưới dạng vector. Chính vì vậy bản chất của nhận dạng chính là tính khoảng cách giữa 2 vector. 

Mạng neuron Hopfield

show less

Nghiên cứu AI sử dụng Python và Tensorflow

https://www.tensorflow.org/install

# Requires the latest pip

pip install --upgrade pip

# Current stable release for CPU and GPU

pip install tensorflow

# Or try the preview build (unstable)

pip install tf-nightly

show less