Phỏng vấn François Chollet

François Chollet là một nhà nghiên cứu AI & học sâu, tác giả của Keras, một khung học sâu hàng đầu cho Python, và vừa ra mắt cuốn sách mới, Deep Learning with Python. Nhân dịp cuốn sách phát hành, tôi có dịp phỏng vấn François qua e-mail. Bạn có thể liên hệ với chúng tôi tại @fchollet và @hugobowne.

François, bạn là kỹ sư phần mềm và nhà nghiên cứu trí tuệ nhân tạo tại Google. Tôi muốn tìm hiểu thêm về công việc của bạn. Nhưng trước hết, điều mọi người thực sự làm và ấn tượng phổ biến về những gì họ làm thường khác xa nhau. Mọi người nghĩ bạn làm gì?

Đó là một nhận xét sắc sảo, thường có khoảng cách giữa những gì người ta được biết đến, những gì họ muốn được biết đến, và những gì họ thực sự đang làm. Trong trường hợp của tôi, có lẽ tôi được biết đến nhiều nhất với việc tạo ra Keras, khung học sâu.

Thực tế bạn làm gì?

Tôi làm việc trong nhóm Brain tại Google ở Mountain View, nơi tôi dành phần lớn thời gian để phát triển Keras. Vì vậy tôi cho rằng có sự tương đồng khá tốt giữa những gì tôi làm và những gì mọi người nghĩ tôi làm.

Tôi cũng đóng góp cho TensorFlow, khung máy học của Google, mà Keras tích hợp cùng. Bên cạnh đó, tôi nghiên cứu về nhiều chủ đề. Gần đây nhất tôi làm các bài báo về dịch máy, thị giác máy tính, và ứng dụng học sâu vào chứng minh định lý. Mối quan tâm nghiên cứu chính của tôi là hiểu bài toán trừu tượng hóa và suy luận trong AI — làm thế nào để đi từ tri giác đến các mô hình trừu tượng có khả năng khái quát cao.

Bạn được biết đến rộng rãi với tư cách tác giả của gói Keras, một mạng nơ-ron mã nguồn mở cho học sâu bằng Python: học sâu là gì?

Học sâu là một cách tiếp cận cụ thể của máy học, đã chứng tỏ mạnh mẽ và linh hoạt hơn nhiều so với các cách tiếp cận trước đây. Trong hầu hết các ứng dụng, cái gọi là "học sâu" có thể được hiểu như một cách biến rất nhiều dữ liệu do con người gán nhãn thành một phần mềm có thể tự động gán nhãn dữ liệu mới theo cách tương tự như con người. Bằng cách đó, bạn có thể tự động hóa rất nhiều tác vụ khác nhau. Học sâu đặc biệt hiệu quả trong việc xử lý dữ liệu "tri giác", như hình ảnh, video, hoặc âm thanh.

Đây là một ví dụ cụ thể. Hãy xét một bộ sưu tập lớn các bức ảnh, với một số thẻ gắn với mỗi ảnh ("chó", "mèo", v.v.). Học sâu cho phép bạn tự động biến dữ liệu của mình thành một hệ thống "hiểu" cách ánh xạ các bức ảnh tới các thẻ, chỉ học từ ví dụ, mà không cần tinh chỉnh thủ công hay kỹ thuật đặc thù. Hệ thống như vậy có thể áp dụng cho dữ liệu mới, giúp tự động hóa hiệu quả tác vụ gắn thẻ ảnh.

Tương tự, bạn có thể áp dụng học sâu cho nhiều bài toán, như dịch máy, nhận dạng giọng nói, chuyển văn bản thành giọng nói, nhận dạng ký tự quang học, v.v.

Chúc mừng cuốn sách mới của bạn, Deep Learning with Python. Vì sao bạn viết cuốn sách này?

Cuốn sách này là nỗ lực của tôi nhằm xây dựng một chương trình giảng dạy để dạy học sâu cho người có khả năng lập trình Python nhưng chưa có nền tảng máy học. Tôi cố gắng làm cho học sâu dễ tiếp cận nhất có thể, mà không đơn giản hóa quá mức. Hóa ra điều đó là khả thi, vì phần lớn học sâu không có những ý tưởng quá khó.

Python có lẽ là ngôn ngữ lập trình phát triển nhanh nhất, ít nhất ở các quốc gia thu nhập cao. Vì sao là Python, cả với bạn và cộng đồng lập trình rộng hơn?

Tôi rất thích Python. Nó dễ làm quen và càng dùng lâu bạn càng làm việc hiệu quả hơn với nó. So với hầu hết các ngôn ngữ tôi từng dùng, Python rất trực quan và tao nhã. Nhưng tính năng "sát thủ" thực sự của Python không nằm ở bản thân ngôn ngữ, mà ở hệ sinh thái và cộng đồng xung quanh. Bất cứ thứ gì bạn cần làm — phân tích một định dạng tệp cụ thể, kết nối với một hệ thống cụ thể — gần như chắc chắn đã có thư viện Python làm việc đó, nên bạn không phải tốn thời gian tự hiện thực. Điều này đặc biệt đúng với khoa học dữ liệu và máy học, có rất nhiều công cụ tuyệt vời — numpy, pandas, scikit-learn, các thư viện vẽ, v.v. Điều đó khiến Python trở thành một ngôn ngữ rất năng suất.

Thêm nữa, tôi thích việc Python không phải là ngôn ngữ chuyên biệt theo lĩnh vực, mà nằm ở giao điểm của nhiều lĩnh vực, từ phát triển web đến khoa học dữ liệu đến quản trị hệ thống. Điều đó có nghĩa là bạn không phải chuyển sang ngôn ngữ mới để triển khai các mô hình Keras như một web API, chẳng hạn. Bất cứ gì bạn cần làm — triển khai một webapp, truy vấn REST API, phân tích một số tệp, huấn luyện các mô hình học sâu tiên tiến — Python nhìn chung là lựa chọn khá vững chắc.

Nhiều người cho rằng có rào cản gia nhập đối với những ai muốn bước vào các lĩnh vực máy học và phát triển trí tuệ nhân tạo. Quan điểm của bạn về việc dân chủ hóa các kỹ năng và kỹ thuật cần thiết là gì?

Tôi không nghĩ như vậy. Bước vào máy học đã trở nên cực kỳ dễ trong 5 năm qua. Đúng là cách đây 5-7 năm thì khó. Bạn có lẽ cần học cao học. Bạn cần tự viết nhiều thuật toán cấp thấp, thường bằng C++ hoặc Matlab. Tôi từng trải qua điều đó. Ngày nay khác rồi. Bạn chỉ cần Python, dễ học hơn nhiều, và bạn có các công cụ cấp cao, dễ dùng như Keras. Thêm vào đó, bạn có thể học từ vô số tài nguyên chất lượng cao trực tuyến, và bạn có thể thực hành với các bài toán thực tế trên Kaggle. Chưa bao giờ việc học lại dễ như vậy.

Vì thế, ở thời điểm này, bạn chỉ cần, ví dụ, lấy cuốn sách của tôi, cài Keras, làm một số thử thách trên Kaggle, và sau vài tháng bạn sẽ trở nên khá thành thạo máy học và học sâu trên các bài toán thực tiễn.

Keras và cuốn sách mới của bạn đóng vai trong triết lý này như thế nào?

Khi tôi phát hành Keras ban đầu, tôi không đặc biệt cố gắng dân chủ hóa học sâu. Nhưng theo thời gian, tôi thấy vô số người tiếp cận học sâu qua Keras và dùng nó để giải quyết rất nhiều vấn đề theo những cách tôi không ngờ tới, điều đó thực sự khiến tôi say mê. Tôi nhận ra rằng học sâu có thể được triển khai theo những cách mang tính chuyển đổi ở nhiều lĩnh vực hơn nhiều so với những gì người ở Thung lũng Silicon nghĩ. Có rất nhiều người ngoài kia có thể hưởng lợi từ việc dùng học sâu trong công việc. Do đó, tôi ngày càng quan tâm đến việc đưa các công nghệ này đến với càng nhiều người càng tốt, và đó đã trở thành mục tiêu thiết kế số một của Keras. Đó là cách duy nhất chúng ta triển khai AI tới hết tiềm năng của nó — bằng cách phổ biến rộng rãi.

Cuốn sách của tôi là một cố gắng tiến thêm một bước theo hướng đó: tôi cố gắng hướng dẫn một cách bài bản càng nhiều người càng tốt vào học sâu, để họ có thể bắt đầu dùng nó giải quyết những vấn đề mà họ quen thuộc và thậm chí tôi còn không biết là tồn tại. Chỉ cung cấp công cụ dễ dùng là chưa đủ, bạn cũng nên cung cấp tài liệu học để dạy mọi người cách dùng công cụ.

Những điều quan trọng nhất mà người mới bắt đầu cần học là gì? Họ có thể làm điều này như thế nào?

Có lẽ điều quan trọng nhất là nắm được học sâu có thể và không thể làm gì. Cùng với đó là cảm nhận về các thực hành tốt cốt lõi như cách đánh giá mô hình đúng đắn và cách chống quá khớp. Điều này đòi hỏi kết hợp giữa giải thích chính thống và thực hành rộng rãi trên các bài toán thực tế.

Trí tuệ nhân tạo là một thuật ngữ mà với nhiều người gợi lên hình ảnh robot có tri giác. Chúng ta thấy các tiêu đề như 'AI của Google tạo ra "đứa con" AI của riêng mình tiên tiến hơn các hệ thống do con người xây dựng'. Tôi cần bạn giúp làm sáng tỏ AI thực sự là gì. Trí tuệ nhân tạo có thể làm được gì?

Chắc chắn có rất nhiều thổi phồng trong lĩnh vực này. Phần lớn tin tức về AI và học sâu bị tách rời nghiêm trọng khỏi thực tế — cả những câu chuyện hù dọa lẫn những câu chuyện rằng AI sẽ khiến mọi thứ trở nên tuyệt vời.

Về việc AI có thể làm gì hôm nay, đó là một câu hỏi khó. Tôi cho rằng có ba nhóm việc AI có thể làm:

• Thực hiện các tác vụ mà chúng ta có thể hoàn toàn, rõ ràng chỉ định các quy tắc mà AI cần tuân theo. Về bản chất, đây là cái gọi là "AI biểu tượng", hay thực tế hơn là "phát triển phần mềm". Như bất kỳ ai từng lập trình đều biết, cách tiếp cận này mong manh và chỉ hoạt động trong những thiết lập mà mọi thứ đều nằm trong tầm kiểm soát — điều hiếm khi xảy ra trong các bài toán đời thực.
• Thực hiện các tác vụ tri giác và trực giác đơn giản mà chúng ta không thể chỉ định quy tắc một cách tường minh, nhưng có thể cung cấp rất nhiều ví dụ về tác vụ đó. Điều này bao gồm toàn bộ học sâu: phân loại hình ảnh, chép lời nói, v.v. Một hạn chế quan trọng ở mặt này là các mô hình của chúng ta chỉ có thể xử lý đầu vào cực kỳ gần với những gì chúng từng thấy — bạn không thể đi quá xa khỏi dữ liệu huấn luyện. Những gì chúng ta đang làm ở đây về cơ bản là nội suy/khớp đường cong trong không gian chiều cao ở mức "hào nhoáng".
• Kết hợp tương đối ngây thơ hai nhóm trên. Ví dụ, bạn có thể hình dung một robot với một mô-đun học sâu có thể trích xuất loại và vị trí của một số đối tượng xung quanh, được huấn luyện trên nhiều ví dụ, kết hợp với một mô-đun mã hóa cứng các quy tắc cấp cao để thao tác các đối tượng này. Một ví dụ khác là AlphaGo/AlphaZero, về cơ bản là sự kết hợp giữa tìm kiếm vét cạn (lập trình tường minh) với một mô-đun học sâu được huấn luyện trên rất nhiều ván đấu, có thể "trực giác" đánh giá giá trị của một thế cờ.

Trên thực tế, khi khai thác các kỹ thuật hiện tại đến hết tiềm năng, bạn có thể đạt hiệu năng vượt con người ở nhiều tác vụ quan trọng, và hiệu năng khá tốt ở nhiều tác vụ khác nữa. Nhưng điều đó chỉ khả thi trong những bối cảnh rất hẹp. Và, có lẽ trái với trực giác, không có con đường thực sự nào từ việc rất giỏi nhiều tác vụ dọc khác nhau đến việc có trí thông minh tổng quát và lẽ thường của ngay cả một đứa trẻ tập đi — chứ chưa nói đến năng lực học và thích nghi của nó.

Như đã nói, giỏi thực sự ở nhiều tác vụ rất hẹp là điều mang tính chuyển đổi đối với hầu hết ngành công nghiệp. Vì vậy bạn có thể kỳ vọng AI sẽ mang lại tác động kinh tế rất lớn trong 20 năm tới. Bạn có thể xem AI là động cơ hơi nước của thời đại chúng ta — một công cụ rất mạnh trong tay con người, sẽ tái định hình bức tranh kinh tế trong vài thập kỷ. Nhưng không có robot có tri giác nào ở chân trời trước mắt.

Trí tuệ nhân tạo không thể làm gì?

Trong toàn bộ không gian các việc chúng ta muốn có thể tự động hóa, AI ngày nay chỉ xử lý được một tập hợp rất nhỏ. Có nhiều thứ chúng ta không làm được hơn là làm được.

Nói chung, chúng ta đặc biệt yếu ở:

• Bất cứ thứ gì đòi hỏi "neo ngữ nghĩa" hoặc "hiểu". Ví dụ, AI không thể hiểu ý nghĩa của ngôn ngữ tự nhiên, thay vào đó xử lý ngôn ngữ theo các phụ thuộc thống kê hoặc các quy tắc xử lý mã hóa cứng. "Ý nghĩa", như tồn tại trong tâm trí con người, bắt nguồn từ trải nghiệm nhập thể của con người, mà các mô hình AI của chúng ta không thể tiếp cận. Ít nhất là hiện tại. Vì vậy, không hệ thống AI nào ngày nay có thể "hiểu" nhiệm vụ của nó theo cách có ý nghĩa với con người. Các mô hình chỉ đơn thuần ánh xạ đa tạp thống kê của dữ liệu huấn luyện.
• Bất cứ thứ gì liên quan đến xử lý dữ liệu khác với những gì AI từng thấy. AI chỉ có thể áp dụng các quy tắc bạn đã mã hóa tường minh, hoặc nhận dạng những thứ rất, rất gần với những gì nó được huấn luyện. Năng lực của chúng ta suy giảm theo hàm mũ khi bạn đưa thêm bất định hoặc biến thiên vào một tác vụ.
• Bất cứ thứ gì liên quan đến suy luận và trừu tượng hóa. Hoặc chúng ta có thể mã hóa cứng các quy tắc suy luận tường minh vào máy, hoặc chúng ta không thể thực hiện suy luận. AI hiện tại không thể tự hình thành các mô hình trừu tượng về một tình huống. Có thể nói đây là nút thắt chính của phát triển AI ngày nay. Nếu giải quyết được, bạn sẽ nhanh chóng vượt qua được hai điểm trước.

Tôi đã viết một bài blog có tên The limitations of deep learning về vấn đề này và các vấn đề liên quan.

Những thách thức lớn nhất mà cộng đồng học sâu đang đối mặt là gì?

Chống lại thổi phồng, phát triển nhận thức đạo đức, và nâng cao tính nghiêm ngặt khoa học.

Thổi phồng: đây là vấn nạn trong lĩnh vực của chúng ta. Một số người đang thổi phồng tiến bộ gần đây theo cách lố bịch, bán quá mức những năng lực hiện tại, và thường mô tả trí tuệ ở mức con người như thể sắp ngay trước mắt — trong khi không phải vậy. Nếu chúng ta đặt kỳ vọng trên mây rồi không đáp ứng được, chúng ta sẽ khiến mọi người quay lưng lại. Hơn nữa, điều đó thiếu trung thực về mặt trí tuệ và gây độc hại cho thảo luận công.

Đạo đức: đa số những người triển khai hệ thống AI ngày nay không đến từ một nền tảng đa dạng, và thường hoàn toàn không nhận thức được các hệ lụy đạo đức và tác dụng phụ có hại của các hệ thống họ xây dựng. Đây là một vấn đề lớn vì những người này sẽ ngày càng có nhiều quyền lực hơn đối với người khác. Chúng ta cần bàn luận những vấn đề này nhiều hơn và nâng cao nhận thức về các ứng dụng AI phi đạo đức có thể xảy ra, dù đó là các mô hình dự đoán thiên lệch ảnh hưởng tới đời sống con người, AI được áp dụng ở những nơi rất đáng ngờ, hay AI được dùng để thao túng hành vi và quan điểm của chúng ta theo những cách nguy hiểm.

Khoa học: mỗi ngày có vô số bài báo học sâu được công bố, và phần lớn không thực sự tạo ra tri thức mới có ý nghĩa, vì chúng không tuân theo phương pháp khoa học. Họ "đánh giá" mô hình theo những cách mơ hồ, hoặc kiểm thử các mô hình quá khớp trên dữ liệu huấn luyện (điều này đặc biệt đúng với các mô hình sinh và học tăng cường, hai chủ đề tăng trưởng nhanh nhất trong nghiên cứu học sâu), chọn lọc kết quả, dùng các đường cơ sở yếu một cách giả tạo, tinh chỉnh siêu tham số theo cách dẫn đến quá khớp với một tác vụ cụ thể, chỉ đánh giá mô hình trên MNIST, v.v. Học sâu là một vùng thảm họa về khoa học. Phản biện đồng cấp thường không xử lý những vấn đề này một cách có ý nghĩa, có lẽ một phần vì đa số phản biện mới tham gia lĩnh vực được một đến hai năm (vì lĩnh vực đang tăng trưởng theo cấp số nhân). Nếu muốn tiến bộ nhanh hơn, chúng ta cần đưa vào lĩnh vực những kỳ vọng cao hơn về tính nghiêm ngặt, liên quan đến khả năng tái lập nghiên cứu, đường cơ sở, đánh giá mô hình, và ý nghĩa thống kê. Đáng buồn là hệ thống khuyến khích hiện tại chống lại khoa học — chúng ta khuyến khích công bố, và thật không may, dễ công bố hơn nếu bạn làm cho nghiên cứu nghe có vẻ phức tạp & bí ẩn trong khi khiến người khác không thể đánh giá đúng ý nghĩa của nó.

Tương lai của học sâu trong mắt bạn như thế nào?

Tôi thực sự đã viết một bài blog về điều này. Tóm lại, tôi kỳ vọng AI sẽ ngày càng pha trộn các mô-đun nhận dạng mẫu "trực giác" với các mô-đun suy luận hình thức. Tôi cũng kỳ vọng AI sẽ tiến hóa để trở nên giống như một dạng phát triển phần mềm tự động, vay mượn nhiều khuôn mẫu và thực hành trong kỹ nghệ phần mềm ngày nay.

Bạn không chỉ là một nhà phát triển. Trên blog keras, trong các bài luận, trong sách và trên Twitter, bạn suy tư và lên tiếng về các vấn đề đạo đức xung quanh học sâu, AI và công nghệ nói chung. Bạn có nghĩ các nhà phát triển có nghĩa vụ tham gia cân nhắc đạo đức về công việc họ làm không?

Chắc chắn rồi. Tôi cho rằng điều này đã thiếu vắng trong bức tranh công nghệ nói chung vài năm gần đây. Hãy nhìn Facebook, chẳng hạn. Hoặc hầu hết các trò chơi trên điện thoại thông minh. Công nghệ không bao giờ trung lập — vì nó mạnh mẽ, vì nó ảnh hưởng đến cuộc sống của chúng ta. Cách bạn thiết kế sản phẩm và công nghệ là đang chủ động đưa các giá trị vào đó, dù bạn có ý thức hay không. Vậy nên tốt nhất là hãy cố ý về điều đó. Nếu bạn xây dựng một nền tảng mạng xã hội và cố tối đa hóa "tương tác", thì đó là một quyết định đậm tính đạo đức, với những hàm ý quan trọng. Hoặc chúng ta quan tâm và đưa đạo đức trở thành mục tiêu thiết kế rõ ràng của công nghệ và cấu trúc quyền lực mà chúng ta xây dựng, hoặc chúng ta từ bỏ các giá trị của mình. Nếu bạn làm trong công nghệ, bạn không thể chọn "đứng ngoài lề", đó là một ảo tưởng.