Hook
Trong bảy ngày qua, một sự kiện khiến tôi phải dừng lại giữa lúc đang rà soát một hợp đồng staking với tổng giá trị khóa hơn 8 triệu USD. Không phải vì con số 975B tổng tham số, không phải vì cái tên Mira Murati - cựu CTO của OpenAI vừa cho ra mắt Thinking Machines Lab. Mà là con số 171GB. Đó là dung lượng file trọng số đã lượng tử hóa của mô hình Inkling-Small, một con số nhắc tôi nhớ rằng cái gọi là "open weights" trong ngành AI hiện nay có thể không khác gì một bản audit report dài 200 trang mà không có ai thèm đọc phần phụ lục. Mọi người nhìn vào điểm số, nhìn vào giấy phép Apache 2.0, nhìn vào cái giá 1.20 USD cho mỗi triệu token đầu ra. Nhưng tôi lại bị ám ảnh bởi một câu hỏi kỹ thuật: ai, với hạ tầng nào, thực sự có thể chạy một mô hình nặng 171GB để kiểm chứng các tuyên bố đo lường của họ?
Từng dòng gas được tối ưu, từng bit được cân nhắc. Với tôi, một mô hình AI mã nguồn mở cũng giống như một giao thức DeFi vậy: bạn không thể tin vào những gì người ta nói trên blog, bạn phải tự chạy thử, tự đo đạc, và nếu không làm được điều đó thì lỗi không nằm ở logic, mà nằm ở giả định.
Context
Thinking Machines Lab, do Mira Murati dẫn dắt sau khi rời OpenAI vào cuối năm 2024, vừa công bố hai mô hình: Inkling và Inkling-Small. Điểm đáng chú ý là Inkling-Small - một mô hình MoE (Mixture-of-Experts) với 276B tổng tham số nhưng chỉ 12B tham số kích hoạt. Con số này đặt nó vào vùng "efficiency tier" - cùng nhóm với các mô hình như DeepSeek V3 hay Qwen trong cách tiếp cận, nhưng lại mang một lợi thế mà không phải đối thủ nào có được: cái tên Mira Murati trên danh thiếp.
Theo công bố chính thức, Inkling-Small chỉ thua Inkling - mô hình lớn hơn với 975B tổng tham số và 41B tham số kích hoạt - đúng 1 điểm trên chỉ số Intelligence Index của Artificial Analysis (40 so với 41). Thậm chí, trên hai chuẩn đánh giá quan trọng là SWE-bench Verified và HLE, mô hình nhỏ còn vượt qua mô hình lớn hơn. Điều này nghe có vẻ tuyệt vời cho đến khi bạn nhìn vào bức tranh toàn cảnh: Artificial Analysis từng chấm các mô hình thuộc nhóm SOTA trên 50 điểm. Vậy nên cái câu chuyện "chỉ thua 1 điểm" thực chất đang diễn ra trên một mặt bằng điểm số rất khiêm tốn. Đó là một thủ thuật định vị có chủ đích, giống như cách một dự án DeFi so sánh TVL của mình với đối thủ nhỏ hơn thay vì với Uniswap.
Mô hình được phát hành dưới giấy phép Apache 2.0 - loại giấy phép cho phép sử dụng, sửa đổi và thương mại hóa mà không cần chia sẻ lại mã nguồn. Hỗ trợ đa phương thức đầu vào: văn bản, hình ảnh, và âm thanh. Nhưng không hề có dấu hiệu nào cho thấy khả năng tạo sinh hình ảnh hoặc âm thanh. Đây là một lựa chọn thiết kế mà tôi cho là cực kỳ khôn ngoan: họ cắt đi phần nặng nhất của chi phí tính toán - khâu sinh nội dung - để dồn toàn bộ sức mạnh vào việc hiểu, suy luận và viết code. Cũng vì thế mà giá thành có thể xuống tới 1.20 USD cho mỗi triệu token đầu ra, thấp hơn khoảng 70% so với mức giá của chính Inkling.
Core Insight
Nhìn từ góc độ một người đã dành hơn 5 năm rà soát hợp đồng thông minh, tôi nhận ra rằng Inkling-Small không phải là một đột phá kiến trúc. Đó là một chiến thắng của kỹ thuật tối ưu hóa - một phiên bản "gas optimization" của thế giới mô hình ngôn ngữ. Hãy để tôi giải thích.
Thứ nhất, tỷ lệ giữa tổng tham số và tham số kích hoạt của hai mô hình gần như tương đương nhau: 975B/41B và 276B/12B, cả hai đều nằm quanh tỷ lệ 23:1. Điều đó cho thấy chúng chia sẻ cùng một công thức thiết kế MoE - chỉ khác về quy mô. Không có một sự đổi mới mang tính cách mạng nào trong cách chúng phân phối tham số. Điều thú vị nằm ở chỗ một mô hình nhỏ hơn 3.5 lần lại có thể bám sát mô hình lớn đến vậy - và thậm chí vượt lên trong các tác vụ lập trình và suy luận. Điều này nói với tôi rằng đội ngũ Thinking Machines Lab đã không đơn thuần "thu nhỏ" Inkling như cách người ta cắt giảm các lớp trong mạng nơ-ron. Họ có thể đã tiến hành một chiến dịch huấn luyện thứ cấp, bổ sung thêm dữ liệu code, toán học và suy luận với tỷ trọng cao hơn nhiều so với bản gốc. Nếu giả định này đúng, thì Inkling-Small không phải là một "bản rút gọn" mà là một "bản tinh chỉnh theo hướng chuyên biệt" - giống như một bản fork của Uniswap V2 được tối ưu để phục vụ một cặp token cụ thể, chứ không phải một loại DEX đa dụng.
Chiến lược này được phản ánh rõ ràng thông qua việc định giá. Mức 1.20 USD cho mỗi triệu token đầu ra, với kiến trúc chỉ kích hoạt 12B tham số cho mỗi token, đồng nghĩa với biên lợi nhuận gộp được cải thiện đáng kể so với các đối thủ cùng phân khúc giá. Nhưng đây không phải là một mức giá để kiếm tiền. Đây là một mức giá để mua thị phần. Khi bạn đặt mức giá bằng khoảng 70% thấp hơn so với mô hình lớn nhất của chính mình, bạn đang tạo ra một hiệu ứng tâm lý rất mạnh: người dùng so sánh giữa hai lựa chọn từ cùng một nhà phát hành, thấy được mức độ chênh lệch hiệu năng rất nhỏ, và bị thuyết phục rằng họ đang "mua hời". Việc so sánh giá với chính sản phẩm của mình thay vì so với GPT hay Claude là một thao tác tinh vi: nó vừa tránh được một cuộc chiến giá trực tiếp với các ông lớn, vừa khiến mức giá 1.20 USD trở nên hấp dẫn hơn trong mắt nhà phát triển.
Nhưng có một con số mà tôi thấy thiếu vắng trong toàn bộ câu chuyện: chi phí huấn luyện. Với 975B tổng tham số, nếu tính theo quy tắc ước lượng thông dụng nhất trong ngành - khoảng 20 token cho mỗi tham số - thì khối lượng tính toán cần thiết nằm trong khoảng 2×10^25 FLOPs. Để so sánh, con số này gấp nhiều lần tổng tài nguyên mà hầu hết các phòng thí nghiệm AI học thuật trên thế giới có thể huy động. Ngay cả khi giả định hiệu suất sử dụng phần cứng (MFU) đạt mức lý tưởng 35-40%, bạn vẫn cần một cụm hàng nghìn GPU H100 chạy liên tục trong nhiều tháng. Chi phí chỉ riêng cho một lần huấn luyện đã nằm trong khoảng hàng chục triệu USD. Mà trong một thị trường đi ngang như hiện tại, nơi dòng vốn đổ vào các dự án AI đang trở nên thận trọng hơn, việc duy trì một cỗ máy tốn kém như vậy mà chỉ thu về mức giá 1.20 USD cho mỗi triệu token đầu ra là một phép toán mà tôi muốn nhìn thấy bảng cân đối kế toán của họ.
Mỗi block là cơ hội, mỗi transaction là dấu vết. Trong thế giới tiền mã hóa, tôi học được rằng bất kỳ giao thức nào có dòng tiền ra lớn hơn dòng tiền vào trong một khoảng thời gian dài đều không bền vững - trừ khi họ có một động thái tiếp theo được lên kế hoạch từ trước. Và tôi tin Thinking Machines Lab đang có một động thái như vậy: mô hình nhỏ giá rẻ là sản phẩm mồi, còn đích đến thực sự là xây dựng một hệ sinh thái các nhà phát triển gắn bó, từ đó bán các dịch vụ giá trị cao hơn như micro-tuning, triển khai có bảo mật nâng cao, hoặc cam kết SLA cho doanh nghiệp.
Contrarian Angle
Cái nhìn phản trực giác của tôi về sự kiện này nằm ở chỗ: Apache 2.0 và con số 171GB là một bộ đôi đang nói dối về bản chất thật sự của "open source" ở đây. Khi một mô hình có file trọng số lên tới 171GB ngay cả sau khi đã được lượng tử hóa, thì nó không dành cho một nhà phát triển cá nhân chạy trên một chiếc MacBook. Người mua tiềm năng thực sự của mô hình này là các công ty có hạ tầng GPU riêng, đội ngũ MLOps chuyên trách, và ngân sách hàng trăm nghìn USD cho việc vận hành. Nói cách khác, đây là một chiến lược mã nguồn mở hướng tới doanh nghiệp - "enterprise open source" - chứ không phải một phong trào dân chủ hóa AI kiểu "AI for everyone" như cách mà nhiều nhà phát triển kỳ vọng ở một cựu CTO của OpenAI.
Và ở đây tôi thấy một sự tương đồng thú vị với thị trường tiền mã hóa. Trong những năm gần đây, các dự án Layer 2 liên tục khoe về tổng giá trị khóa (TVL) và số lượng người dùng, nhưng thực tế thanh khoản bị chia nhỏ đến mức không một mạng nào có đủ độ sâu để phục vụ các giao dịch lớn. Inkling-Small cũng tương tự: con số "mã nguồn mở" mang lại cảm giác minh bạch và quyền tự do, nhưng chi phí thực tế để vận hành một mô hình 171GB đã tự động sàng lọc người dùng ngay từ vạch xuất phát. Bạn có thể "sở hữu" mô hình này về mặt pháp lý, nhưng bạn không thể "sở hữu" nó về mặt hạ tầng. Đây là một kiểu mở cửa có chọn lọc - mở về giấy phép, đóng về khả năng tiếp cận.
Một góc tối khác mà tôi muốn chỉ ra là câu chuyện an toàn. Với một mô hình có khả năng nhận dạng và xử lý đầu vào âm thanh, được phát hành toàn bộ trọng số cho bất kỳ ai tải về, thì khả năng bị lạm dụng - chẳng hạn như tinh chỉnh ngược để loại bỏ lớp an toàn, hoặc sử dụng làm bộ phận xử lý âm thanh trong chuỗi tấn công deepfake - là hoàn toàn có thể. Trong quá trình audit các hợp đồng thông minh, tôi luôn nói với khách hàng rằng cái giá của sự lười biếng là một lỗ hổng bảo mật. Nếu đội ngũ phát hành không công bố báo cáo đánh giá an toàn nội bộ, không có kết quả thử nghiệm red-team, thì việc rộng rãi cung cấp trọng số mô hình tương đương với việc một dự án DeFi phát hành smart contract trị giá hàng trăm triệu USD mà không có bất kỳ lần kiểm toán nào - có thể hoạt động tốt, nhưng rủi ro nằm ở chỗ không ai biết được ranh giới của nó.
Takeaway
Tôi không nghĩ rằng Inkling-Small là một sản phẩm AI mang tính bước ngoặt về mặt thuật toán. Nhưng nó là một tín hiệu chiến lược mà bất kỳ ai theo dõi thị trường công nghệ đều không thể bỏ qua: cuộc cạnh tranh AI đang chuyển từ cuộc đua về độ thông minh tuyệt đối sang cuộc đua về "đơn giá thông minh" - chi phí cho mỗi điểm hiệu năng. Điều này gợi nhớ tới cuộc cạnh tranh giữa các giải pháp Layer 2: không phải ai có TVL lớn nhất sẽ thắng, mà là ai có chi phí giao dịch thấp nhất với độ an toàn chấp nhận được sẽ chiếm được lòng tin của người dùng.
Cũng như cách tôi kiểm tra một giao thức trước khi quyết định khóa thanh khoản, câu hỏi mà tôi muốn mọi người tự hỏi trước khi đưa Inkling-Small vào sản phẩm của họ rất đơn giản: trên mức 171GB và Apache 2.0, đâu là minh bạch thật sự và đâu là những con số được chọn lọc kỹ càng để tạo ấn tượng? Và nếu câu trả lời không nằm trong một báo cáo kỹ thuật chi tiết có mã nguồn mở và dữ liệu đánh giá độc lập, thì bạn đang không vận hành một hệ thống - bạn đang dựa trên một lời hứa. Trong một thị trường đi ngang, nơi những lời hứa không còn đủ sức thuyết phục, chỉ có những thực thể sẵn sàng mở toàn bộ sổ sách kỹ thuật mới tồn tại được qua chu kỳ tích lũy này.
Tags: AI-Models, Open-Source, MoE-Architecture, Token-Economics, Mira-Murati, Thinking-Machines-Lab
Prompt cho phần minh họa: "Một bức tranh kỹ thuật số tối giản theo phong cách kiến trúc: hai khối lập phương trong suốt đặt cạnh nhau, một khối lớn có ánh sáng lờ mờ và nhiều chi tiết phức tạp bên trong, một khối nhỏ hơn nhưng phát ra ánh sáng rực rỡ và có các đường kẻ rõ ràng. Hậu cảnh là một bản thiết kế kỹ thuật mờ với các con số và đường nét giống như bản vẽ CAD. Tông màu chủ đạo là xanh navy và cam đồng, tạo cảm giác phân tích chiến lược và cân nhắc tối ưu hóa."