PyTorch vs Tensorflow vs Keras

Các nhà thực hành machine learning và kỹ sư phần mềm thường dựa vào các framework để giảm bớt khối lượng công việc nặng nhọc khi lập trình.

Ví dụ, các framework machine learning cho phép người dùng triển khai mô hình mà không cần phải đào sâu vào các cơ sở toán học của thuật toán.

Điều này giúp đơn giản hóa quy trình phát triển cho lập trình viên vì họ không phải liên tục viết lại mã để xây dựng ứng dụng.

Những khái niệm này cũng áp dụng cho học sâu — một nhánh của machine learning. TensorFlow, Keras và PyTorch là ba framework học sâu phổ biến nhất.

Trong hướng dẫn này, chúng ta sẽ tìm hiểu từng framework và đưa ra một gợi ý sơ bộ để giúp bạn quyết định đâu là lựa chọn phù hợp cho dự án của mình.

TensorFlow là gì?

TensorFlow là một framework học sâu đầu-cuối. Nó được phát triển bởi nhóm Google Brain, ban đầu dùng nội bộ tại Google cho nghiên cứu và sản xuất; tuy nhiên, đã được mở mã nguồn vào năm 2015 theo giấy phép Apache. Tháng 9 năm 2019, Google phát hành phiên bản cập nhật mới mang tên TensorFlow 2.0. Bạn có thể khám phá chi tiết hơn trong hướng dẫn TensorFlow của chúng tôi.

Một số tính năng chính của TensorFlow bao gồm:

• TensorBoard. Bộ công cụ trực quan hóa cho TensorFlow, hỗ trợ hiểu, gỡ lỗi và tối ưu hóa các chương trình TensorFlow.
• Các cột đặc trưng (feature columns). Các trừu tượng cấp cao chuyển đổi dữ liệu thô sang định dạng phù hợp cho mô hình machine learning, giúp đơn giản hóa việc xử lý nhiều loại dữ liệu.
• Dễ dàng huấn luyện trên CPU và GPU. TensorFlow có thể huấn luyện mô hình trên nhiều loại phần cứng, gồm CPU và GPU, cho phép tính toán linh hoạt và hiệu quả.
• Huấn luyện song song. TensorFlow hỗ trợ tính toán phân tán, cho phép xử lý đồng thời dữ liệu và mô hình trên nhiều CPU hoặc GPU, rút ngắn đáng kể thời gian huấn luyện.

Ưu điểm của TensorFlow

Mã nguồn mở

TensorFlow là framework mã nguồn mở, nghĩa là miễn phí và bất kỳ ai cũng có thể sử dụng mà không cần ràng buộc hợp đồng với nhà cung cấp.

Gỡ lỗi

Một trong những tính năng chủ chốt của TensorFlow là TensorBoard. TensorBoard cung cấp khả năng trực quan hóa và công cụ cần thiết cho việc thử nghiệm trong

TensorBoard cung cấp khả năng trực quan hóa và công cụ cần thiết cho thử nghiệm machine learning trong học sâu, giúp việc gỡ lỗi mã TensorFlow của bạn dễ dàng hơn nhiều.

Tương thích với Keras

Khi Google công bố TensorFlow 2.0, họ cũng tuyên bố Keras là API cấp cao chính thức của TensorFlow. Điều này cho phép người dùng bổ sung chức năng cấp cao vào mã và tận dụng sự đơn giản của Keras.

Khả năng mở rộng

TensorFlow không bị giới hạn ở một thiết bị. Người dùng có thể phát triển hệ thống bằng framework này và kỳ vọng nó hoạt động hiệu quả trên các thiết bị biên cũng như trên các máy phức tạp khác.

Tương thích

Framework tương thích với nhiều ngôn ngữ lập trình; do đó, người dùng có thể làm việc bằng ngôn ngữ mà họ thoải mái nhất.

TensorFlow cung cấp API ổn định cho Python, cùng với các API cho Javascript, C++ và Java nhưng không đảm bảo tương thích ngược. Ngoài ra, có các gói của bên thứ ba cung cấp liên kết ngôn ngữ cho C#, Haskell, Julia, MATLAB, Object Pascal, R, Scala, Rust, OCaml và Crystal.

Tính song song

TensorFlow được xem như một thư viện tăng tốc phần cứng. Framework sử dụng các chiến lược phân phối khác nhau trên hệ thống GPU và CPU. Điều này nghĩa là người dùng tự do sử dụng bất kỳ kiến trúc nào họ muốn. Lưu ý hệ thống mặc định dùng GPU nếu không chỉ định rõ; quá trình này giúp giảm phần nào mức sử dụng bộ nhớ.

Nhược điểm của TensorFlow

Cập nhật thường xuyên

Chi phí thiết lập và liên kết TensorFlow với hệ thống hiện có của người dùng tăng lên do cập nhật quá thường xuyên

Từ đồng âm không nhất quán

TensorFlow cung cấp các thành phần trùng tên, gây khó hiểu và khó dùng vì chúng có tên giống nhau nhưng cách triển khai khác nhau. Ví dụ, tf.nn.conv2d và tf.layers.Conv2d có cùng tên, nhưng thiết lập hơi khác, có thể làm thay đổi đầu ra.

Thiếu vòng lặp ký hiệu

TensorFlow được xem là API cấp thấp — và có lý do. Framework không tự động xử lý các vòng lặp lặp lại dẫn đến vòng lặp ký hiệu. Tuy nhiên, nó có cách dùng cho các chuỗi xác định, nhờ vậy vẫn khả dụng.

Hỗ trợ GPU hạn chế

Framework chỉ hỗ trợ NVIDIA và Python cho lập trình GPU. Không có hỗ trợ bổ sung khác.

Tốc độ triển khai thấp

Trên mọi cấu hình phần cứng, TensorFlow thường mất nhiều thời gian nhất để huấn luyện các loại mạng nơ-ron khác nhau so với đối thủ.

Keras là gì?

Keras là API mạng nơ-ron cấp cao mã nguồn mở phổ biến do François Chollet phát triển và phát hành năm 2015. Tài liệu mô tả nó là “một API được thiết kế cho con người, không phải máy móc.”

Giữa năm 2017, framework này được tiếp nhận và tích hợp vào TensorFlow, giúp người dùng TensorFlow có thể truy cập qua mô-đun tf.keras. Tuy nhiên, vẫn có thể vận hành Keras độc lập với TensorFlow – hãy xem cheat sheet Keras này hoặc hướng dẫn Keras đầy đủ của chúng tôi.

Trích thêm từ tài liệu:

“Keras tập trung vào tốc độ gỡ lỗi, sự thanh lịch & súc tích của mã, khả năng bảo trì và triển khai. Khi chọn Keras, codebase của bạn nhỏ hơn, dễ đọc hơn, dễ lặp hơn. Mô hình chạy nhanh hơn nhờ biên dịch XLA và tối ưu hóa Autograph, và dễ triển khai trên mọi nền tảng (máy chủ, di động, trình duyệt, nhúng) nhờ TF Serving, TF Lite và TF.js.”

Ưu điểm của Keras

Đơn giản

Keras có API cực kỳ đơn giản, thân thiện với người dùng, giúp việc học và bắt đầu với học sâu trở nên dễ dàng.

Hỗ trợ backend

Keras không tự thực hiện các phép tính cấp thấp — framework được xây dựng trên Microsoft CNTK, Theano và TensorFlow. Do đó, nó khuyến khích sử dụng các backend.

Mô hình tiền huấn luyện

Mô hình tiền huấn luyện là mô hình đã được lưu sau khi huấn luyện trên một tập dữ liệu lớn. Keras cung cấp sẵn nhiều mô hình tiền huấn luyện.

Thử nghiệm nhanh

Keras là API cấp cao; tức là khá trừu tượng và tổng quát. Vì vậy, người dùng có thể nhanh chóng xây dựng mô hình chỉ với vài dòng mã.

Cộng đồng hỗ trợ

Keras là nền tảng mã nguồn mở và có cộng đồng lớn gồm các nhà nghiên cứu và nhà phát triển tích cực, hỗ trợ lẫn nhau.

Tài liệu rõ ràng

Tài liệu Keras chứa đầy ví dụ có mã, giúp người dùng nhanh chóng nắm bắt các khái niệm của framework.

Nhược điểm của Keras

Một số tính năng cần cải thiện

Nhiều người dùng đồng ý rằng Keras còn thiếu ở mảng tính năng, còn nhiều không gian để cải thiện. Ví dụ, framework không hỗ trợ tạo biểu đồ động.

Thông báo lỗi kém hiệu quả

Thông điệp lỗi của thư viện Keras chưa hiệu quả. Cần làm cho lỗi trở nên rõ ràng hơn. Việc tìm nguyên nhân cốt lõi của lỗi chưa thực sự hữu ích. Keras đòi hỏi nhiều công đoạn gỡ lỗi.

API cấp cao

Keras là API cấp cao. Do đó, bạn có ít quyền kiểm soát hơn trong việc thao tác các hàm.

PyTorch là gì?

PyTorch là framework học sâu mới nhất trong ba cái tên. Được phát triển bởi nhóm nghiên cứu AI của Facebook (nay là Meta) và mở mã nguồn năm 2016, PyTorch hiện thuộc quỹ Linux Foundation.

Qua nhiều năm, PyTorch xây dựng danh tiếng là framework đơn giản, linh hoạt và hiệu quả. Nó cho phép nhà phát triển nhanh chóng xây dựng các mạng nơ-ron phức tạp cho các ứng dụng như thị giác máy tính và xử lý ngôn ngữ tự nhiên.

Một số tính năng chính gồm:

• Tính toán Tensor. PyTorch cung cấp mảng đa chiều gọi là Tensor, tương tự ndarray của NumPy, nhưng có thể chạy trên GPU để tăng tốc tính toán.
• TorchScript. Cách tuần tự hóa mô hình PyTorch, cho phép chạy trong môi trường khác như C++, đảm bảo sẵn sàng cho sản xuất.
• Đồ thị tính toán động. PyTorch sử dụng đồ thị tính toán động, cho phép linh hoạt xây dựng và chỉnh sửa mô hình tức thời, hữu ích cho các kiến trúc phức tạp.
• Tự động vi phân. Tự động vi phân và tính gradient giúp đơn giản hóa lan truyền ngược và huấn luyện mạng nơ-ron.
• Hỗ trợ Python. PyTorch tích hợp mượt với hệ sinh thái Python, dễ dùng cùng các thư viện Python và mang lại giao diện thân thiện, “Pythonic”.

Ưu điểm của PyTorch

“Pythonic”

PyTorch mang tính “Pythonic”, khiến các nhà phát triển Python dễ tiếp cận. Đây là ưu thế vì phần lớn công việc học sâu được thực hiện bằng Python.

Dễ học

Cú pháp của PyTorch cực kỳ đơn giản và trực quan. Người dùng thường đánh giá PyTorch có đường cong học tập nhẹ — thậm chí là một trong những gói học sâu dễ học nhất.

Dễ gỡ lỗi

PyTorch có thể sử dụng các công cụ gỡ lỗi pdb và ipdb của Python. Lập trình viên cũng có thể dùng PyCharm, IDE Python, để gỡ lỗi vì PyTorch tạo đồ thị tính toán theo thời gian thực.

Cộng đồng mạnh

Dù là một trong những framework học sâu mới hơn, PyTorch đã nhanh chóng xây dựng cộng đồng nhà phát triển tận tâm. Họ làm việc rất chăm chỉ để đảm bảo tài liệu có cấu trúc tốt và hữu ích cho các nhà phát triển khác.

Song song dữ liệu

Khả năng song song dữ liệu của PyTorch rất hiệu quả vì cho phép chia dữ liệu thành các lô và gửi đến nhiều GPU để xử lý. Bằng cách này, PyTorch chuyển được phần lớn khối lượng công việc từ CPU sang GPU.

Nhược điểm của PyTorch

Không có trực quan hóa dữ liệu

TensorBoard của TensorFlow cho phép trực quan hóa quá trình huấn luyện, nhưng PyTorch không có công cụ tương tự — người dùng phải dùng công cụ bên thứ ba.

Cần máy chủ API cho môi trường sản xuất

Không có framework để cung cấp mô hình trực tiếp trên web; do đó bạn cần dùng máy chủ backend bên thứ ba như Flask hoặc Django.

Nên chọn cái nào? Phân tích so sánh PyTorch vs Keras vs TensorFlow

Chọn framework phù hợp

Câu trả lời cho “framework nào tốt hơn?” luôn mang tính chủ quan vì mỗi framework đều có ưu và nhược điểm như chúng ta đã thấy. Tuy nhiên, dưới đây là danh sách những điều cần cân nhắc khi quyết định.

Pytorch vs TensorFlow

• Mã khuôn mẫu (boilerplate). Cả PyTorch và TensorFlow đều đơn giản hóa việc xây dựng mô hình bằng cách loại bỏ nhiều mã khuôn mẫu.
• Tính Pythonic và hướng đối tượng. PyTorch “Pythonic” hơn và tuân theo nguyên tắc lập trình hướng đối tượng, trực quan với nhà phát triển Python.
• Độ phổ biến. TensorFlow, ra đời sớm hơn và được Google hậu thuẫn, có lượng người dùng và cộng đồng lớn hơn.
• Linh hoạt. PyTorch linh hoạt hơn nhờ dùng đồ thị tính toán động, cho phép thay đổi tức thời.
• Gỡ lỗi và theo dõi. TensorBoard của TensorFlow cung cấp công cụ trực quan mạnh mẽ để gỡ lỗi và theo dõi quá trình huấn luyện.
• Nền tảng phục vụ. TensorFlow có hệ thống phục vụ mô hình trưởng thành hơn, giúp triển khai mượt mà hơn so với PyTorch.

PyTorch vs Keras

• Đường cong học tập. Cả PyTorch và Keras đều thân thiện với người dùng, dễ học và dễ sử dụng.
• Nghiên cứu vs phát triển. PyTorch thường được giới nghiên cứu ưa chuộng vì tính linh hoạt và khả năng kiểm soát, trong khi Keras được nhà phát triển ưa dùng vì sự đơn giản và “cắm là chạy”.
• Tốc độ và gỡ lỗi. PyTorch thường nhanh hơn và cung cấp khả năng gỡ lỗi vượt trội so với Keras.
• Hướng dẫn và tập dữ liệu nhỏ. Keras nổi bật với nhiều hướng dẫn có mã tái sử dụng và đặc biệt hiệu quả khi làm việc với tập dữ liệu nhỏ.

TensorFlow vs Keras

• API cấp cao. Cả TensorFlow và Keras đều cung cấp API cấp cao để xây dựng và huấn luyện mô hình.
• Tính “Pythonic”. Keras, được xây dựng bằng Python, thân thiện và trực quan hơn.
• Tập dữ liệu lớn. TensorFlow thường được ưa chuộng khi xử lý tập dữ liệu lớn nhờ độ bền vững và khả năng mở rộng.
• Trình bao (wrapper). Keras hoạt động như một lớp bao cho các hàm của TensorFlow, đơn giản hóa giao diện TensorFlow để dễ sử dụng.

Kết luận

TensorFlow, PyTorch và Keras là ba framework học sâu phổ biến nhất. Mỗi cái có điểm mạnh riêng, phù hợp với từng lĩnh vực. Việc bạn học và sử dụng cái nào phụ thuộc vào trường hợp sử dụng cụ thể và các yếu tố khác như năng lực kỹ thuật và thời gian học.

Bất kể bạn chọn framework nào, DataCamp có một số khóa học hữu ích để bạn bắt đầu:

• Giới thiệu về TensorFlow trong Python
• Giới thiệu về Học sâu với Keras
• Học sâu với PyTorch