Bài đăng

Hiểu về Norm Regularization

Hình ảnh
 Overfitting là một hiện tượng xảy ra khi mô hình học máy phù hợp với tập dữ liệu kiểm tra mà không phù hợp với tập thực tế, nó thường xảy ra ở các mô hình phức tạp (complex models), như deep neural networks. Regularisation là một quá trình để ngăn chặn họăc giảm thiều overfitting. Ở đây, chúng ta tập trung vào hai chuẩn là L1 và L2 regularisation. Đã có khá nhiều giải thích trên mạng, nhưng thành thật mà nói có vẻ khi bạn đọc bài viết này thì những bài viết đó đã quá khó hiểu với bạn, vì thế, bài viết này, chúng ta cùng tìm hiểu rõ tại sao chuẩn L1 và L2 lại được dùng để tránh hiện tượng overfitting bằng cách mô tả lại quá trình Gradient Denscent, tối ưu hàm loss của model. Bắt đầu nào. 0. L1, L2 là gì ? L1, L2 regularisation hay còn được gọi là L1, L2 norm của vector w, dưới đây là công thức: 1-norm (L1 norm) 2-norm (L2 norm hoặc Euclidean norm) .Trong hồi quy tuyến tính (linear regression), kèm với L1 còn được gọi là lasso regression, kèm L2 được gọi là ridge regression, (mình ...

Nhận biết cảm xúc con người

Hình ảnh
Đã lâu rồi không có một bài viết về những gì mình đang làm. Thì là đây vậy. Sau khi hoàn thành, mình sẽ viết một phiên bản khác, đầy đủ hơn, dễ hiểu đối với mọi người. Mình đang train thử model với mạng LittleVGG, chắc tới 7h sáng sẽ chạy xong, rồi test thử, xem nó không hiệu quả chỗ nào để thay đổi. Trong lúc đấy mình vẫn còn nhiều thứ phải học, nên, nghe nhạc chút, tìm hiểu thêm chút, để lát đi ngủ là vừa. Mình đang tìm hiểu về mấy cái thuật toán tối ưu, model đang chạy kia dùng rmspop, lát mình sẽ thử với adam, lại mất thêm 4 tiếng nữa. Thế nhé, lát mình sẽ quay lại. 3:30: Sau nửa tiếng chạy 1 epochs thì train model đã lỗi gì đó. 3:33: Thì ra lỗi do mình viết nhầm địa chỉ save model, do nó không có quyền truy cập vào thư mục đó. Mình đoán là không thể lỗi được nữa, mình sẽ ngủ cho máy dồn toàn lực vào train model, sáng dậy sẽ xem thành quả, hy vọng không còn xảy ra lỗi gì. 6:55: Đã được 9/10 %. 12:40: Model lỗi khi lưu lại, mình đang cố sửa, có lẽ nó nằm ở layer softmax cuối cùng. 2...

Gambit Hậu, khi nghiêm túc với việc chơi cờ (Pending)

Hình ảnh
Bài này mình viết từ rất lâu rồi nhưng chưa xuất bản, nếu mọi người thấy thích xin để lại bình luận, để mình có động lực viêt tiếp, chứ mình chơi cờ vẫn còn dở, chơi hay đã khó, viểt bài hay càng khó hơn. Bạn có thể bỏ qua đoạn giới thiệu này Mình rất nhớ một câu trả lời phỏng vấn của Lê Quang Liêm, trong cờ vua, nếu cả hai bên đều đi những nước đi đúng hết thì sẽ dẫn đến 1 kết quả hòa, nhưng thường sẽ không như thế, hai bên đều có khả năng mắc các sai lầm, những người khai thác được sai lầm của đối phương sẽ dành chiến thắng, cũng có nhiều trận đấu, cả hai đều mắc sai lầm, dẫn đến những trận cờ thú vị. Để bắt đầu chơi cờ vua một cách nghiêm túc, nắm vững khai cuộc là chưa đủ, tàn cuộc là yếu tố giúp bạn dành chiến thắng, những trận đấu mà trên bàn cờ chỉ còn 1 quân xe, 1 quân tượng, 1 quân mã mới là một trận đấu khó. Vì thế, với những kiến thức cơ bản về khai cuộc mà mình tìm hiểu này, mong rằng sẽ giúp ích nhiều cho bạn trong quá trình thi đấu, chúng ta ở đây đều để chia sẻ 1 niểm đa...

Mi thứ

 Không hiểu thế nào, có lẽ tôi biết chơi khá nhiều nhạc cụ, và giờ thì đang tìm hiểu violin. Tất nhiên là có lý do cả, nghệ thuật nó đến với tôi như một người bạn không phải tình cờ ta gặp trên một con đường, trong một lớp học, công ty, hay một quán cà phê, nghệ thuật nó đến với tôi như một người bạn, mà tôi muốn tìm hiểu, và đã kết bạn với nó qua facebook, và rồi, biêt đâu, nó sẽ đồng ý ? Thời gian cấp 2 điểm số âm nhạc của tôi chưa bao giờ trên trung bình, vì mỗi lần gọi lên bảng kiểm tra, khi thầy giáo ( dạy tôi cả 4 năm âm nhạc) đàn ( thầy ấy rất giỏi piano), tôi đều không hát. Vì tôi ngại, đúng vậy, âm nhạc nó đã gắn liền và mang lại cảm xúc cho tôi từ bé, tôi thấy Dạ cổ hoài lang hay từ hồi học tiểu học, tôi có thể thuộc một số bài hát như Bụi phấn, Ước mơ, hay mầm non, tôi luôn thích bài Inh lả ơi ( dù giờ mới hiểu lời bài hát không trẻ con lắm), hay Cháu thương chú bộ đội (tôi từng thức dậy 5h sáng với 1 khẩu súng lắp ráp bằng cái giống như trò chơi Lego để vừa nghe chào c...

Lý thuyết trò chơi

  D. Even-Odd Game time limit per test 2 seconds memory limit per test 256 megabytes input standard input output standard output During their New Year holidays, Alice and Bob play the following game using an array  a a  of  n n  integers: Players take turns, Alice moves first. Each turn a player chooses any element and removes it from the array. If Alice chooses  even value , then she adds it to her score. If the chosen value is odd, Alice's score does not change. Similarly, if Bob chooses  odd value , then he adds it to his score. If the chosen value is even, then Bob's score does not change. If there are no numbers left in the array, then the game ends. The player with the highest score wins. If the scores of the players are equal, then a draw is declared. For example, if  n = 4 n = 4  and  a = [ 5 , 2 , 7 , 3 ] a = [ 5 , 2 , 7 , 3 ] , then the game could go as follows (there are other options): On the first move, Alice chooses  2...