Sau 1 Năm Học Deep Learning, Tôi Làm Được Gì?

Sau 1 Năm Học Deep Learning, Tôi Làm Được Gì?

Bản thân tôi không phải một chuyên gia về Deep Learning, nhưng cũng đã không ít lần nghe những bạn trẻ truyền tai nhau rằng: DL khá dễ. Tôi hoàn toàn có thể hiểu tại sao người ta có thể nghĩ như vậy, và cũng có thể khẳng định rằng: Các bạn đã nhầm.

Những lầm tưởng

Nếu bạn đang tự học Deep Learning, thì rất có thể bạn đang theo một trong những khóa học trực tuyến nào đó. Tôi đã tham gia vào việc xây dựng một vài khóa học DL. Và dưới đây là một số lý do mà các bạn trẻ thường cho rằng DL “khá dễ”:
  • Thứ nhất, nhiều khóa học này sử dụng các framework như TensorFlow hoặc Keras để triển khai Neural Networks và các thuật toán tối ưu hóa như gradient descent. Hãy thử thực hiện những điều này mà không có gì ngoài NumPy hoặc SciPy xem, bạn còn thấy nó dễ nữa không?
  • Rất nhiều khóa học tập trung vào sự hiểu biết “trực quan” về Toán học hơn là những thứ khó nhằn trên thực tế. Tôi nhớ mình đã tham gia khóa học ML nổi tiếng của Andrew Ng, trong đó, trong nhiều trường hợp, hàm ý của một số phương trình được thể hiện trái ngược với việc mô tả cách chúng được suy ra. Tôi đã tự mình tìm ra một số trong số chúng chỉ vì tò mò!
  • Cuối cùng, rất nhiều người không hiểu được tầm quan trọng của bộ dữ liệu tốt trong DL và Machine Learning nói chung. Bạn sẽ phải dành khá nhiều thời gian để thu thập, làm sạch và trình bày hoặc mã hóa dữ liệu. Nếu bạn đang triển khai Neural Nets với các tập dữ liệu được chuẩn bị sẵn từ các kho lưu trữ trực tuyến, tôi có thể hiểu tại sao tất cả điều này có vẻ dễ dàng. Việc xây dựng một tập dữ liệu phù hợp để đào tạo vốn dĩ đã chiếm hơn 50% công việc!
Điểm mấu chốt là, các khóa học trực tuyến và một vài cuốn sách phổ biến cũng lược giảm đi rất nhiều thông tin. Theo tôi thấy, những tài nguyên này chủ yếu là muốn khơi dậy sự quan tâm đến ML để bạn có động lực tìm hiểu sâu hơn thay vì đưa ra một cái nhìn cụ thể và chi tiết ngay từ đầu. Sử dụng TensorFlow có thể thật sự dễ như ăn cháo, nhưng hãy nghĩ những điều sâu xa hơn: Ai đang vất vả tạo ra tất cả những framework đó?

Tôi đã học Deep learning như thế nào?

Tôi hiện cũng đang học về Deep Learning. Tôi đặt ra kế hoạch 1 năm cho bản thân. Tôi đã lên kế hoạch này trong gần 1 tháng rưỡi. Tôi muốn chia sẻ kinh nghiệm cũng như nền tảng của tôi với bạn để bạn có thể chọn một số tips phù hợp với trạng thái hiện tại của bạn.

Là một người mới bắt đầu, tôi có nền tảng thống kê và tài chính. Tôi đã tìm hiểu và sử dụng python khoảng 1–2 năm. Không được đào tạo chuyên nghiệp trong lĩnh vực CS hoặc ML.

Tóm lại, kế hoạch học tập của tôi bao gồm: đọc, thực hành viết code, tham gia các bài giảng cũng như là làm các dự án. Trọng tâm chính của tôi là triển khai Neural network trong tensorflow.

  1. Mỗi ngày tôi dành ít nhất 2 giờ để đọc cuốn <Deep Learning> do Ian Goodfellow, Yoshua Bengio và Aaron Courville viết.
  2. Tôi cũng khuyên bạn nên bắt đầu một số khóa học trực tuyến như cs231n và cs224n từ Stanford.
  3. Đối với phần viết code, tôi bắt đầu với một số nhiệm vụ đơn giản như hồi quy tuyến tính và hồi quy logistic. Đảm bảo rằng bạn đã làm quen với các khái niệm cơ bản như placeholder, hàm various cost và trình tối ưu hóa, v.v. theo một cách thực tiễn.
  4. Tôi thấy rất hữu ích khi bắt đầu mã hóa mạng nơ-ron bằng numpy vì hầu hết các hoạt động tensorflow cũng có thể được viết lại bằng numpy.
  5. Tôi cũng sắp xếp thời gian để tìm hiểu các loại mạng nơ-ron khác nhau (định nghĩa và ứng dụng của chúng) và sau đó làm thành bài giảng mỗi tối để xem lại những gì đã học.
  6. Vào cuối tuần, tôi tải xuống bộ dữ liệu từ Kaggle hoặc sử dụng API Twitter để thực hiện một số phân tích văn bản hoặc cảm xúc (vì Natural Language Processing cũng là trọng tâm chính của tôi) với mạng thần kinh để kiểm tra những gì tôi đã học được trong các ngày trong tuần.
  7. Ngay bây giờ, tôi có thể xây dựng các deep neural network cơ bản, nhúng từ như word2vec và doc2vec (+ trực quan hóa việc nhúng với tensorboard) và các mạng thần kinh lặp lại một mình. Ngoài ra, tôi đã hoàn thành 5 chương của <deep learning> và tôi đã thực hiện khoảng 7–8 dự án cuối tuần cho đến nay.

Tạm kết

Đó là một quá trình học tập rất bổ ích đối với tôi cho đến nay. Bạn có thể tự do sáng tạo nghệ thuật từ mạng nơ-ron. Chúc các bạn thành công.

Nguồn: Quora