Gemini Live có thể sắp chạy ngoại tuyến trên Android

Theo Android Authority, mã nguồn của ứng dụng Google phiên bản 17.71.17 cho Android có những dòng mã nhắc tới chế độ ngoại tuyến của Gemini Live. Nếu Google triển khai thật, người dùng có thể trò chuyện bằng giọng nói với trợ lý AI ngay cả khi điện thoại không có Wi-Fi hay dữ liệu di động. Báo Thanh Niên đã đưa tin lại. Đây chưa phải thông báo chính thức. Dù vậy, tin này cho thấy Google đang chuyển dần một phần trải nghiệm AI hội thoại từ đám mây xuống thiết bị.

Có gì mới trong bản ứng dụng Google 17.71.17

Dấu vết nằm trong mã nguồn của ứng dụng. Theo Android Authority, các nhà phân tích tìm thấy hai dòng mã liên quan tới chế độ ngoại tuyến của Gemini Live. Một trong hai dòng nói rằng người dùng có thể dùng tính năng này khi không kết nối internet.

Cách tìm tính năng này rất quen thuộc trong giới theo dõi Android, thường gọi là "APK teardown": người ta giải nén bản cập nhật, đọc chuỗi văn bản và cờ tính năng (feature flag) chưa bật để đoán hãng đang làm gì. Nhiều tính năng tìm ra theo cách này về sau được phát hành thật. Cũng có không ít tính năng bị đổi tên, thay đổi phạm vi hoặc bị bỏ hẳn.

Nhắc lại về Gemini Live: đây là chế độ trò chuyện bằng giọng nói của Gemini. Người dùng nói chuyện tự nhiên, có thể ngắt lời, hỏi tiếp và nhận phản hồi gần như tức thì. Gemini Live còn cho chia sẻ camera và màn hình điện thoại trong lúc trò chuyện, để trợ lý "nhìn" thấy thứ người dùng đang xem rồi giải thích hoặc hướng dẫn.

Google có thể làm bằng cách nào?

Thanh Niên cho rằng Google nhiều khả năng sẽ dùng Gemini Nano để Gemini Live chạy được khi ngoại tuyến. Đây là mô hình nhỏ nhất trong họ Gemini, được thiết kế để chạy trực tiếp trên các điện thoại Android được hỗ trợ và xử lý những tác vụ đơn giản mà không cần gửi dữ liệu lên máy chủ.

Về kỹ thuật, hướng đi này hợp lý nhưng có giới hạn rõ ràng. Mô hình chạy trên máy (on-device) phải nằm gọn trong RAM và bộ nhớ của điện thoại, dùng NPU/GPU di động và giữ mức tiêu thụ pin chấp nhận được. Vì vậy nó kém xa các mô hình lớn chạy trên trung tâm dữ liệu về lượng kiến thức, khả năng suy luận và độ dài ngữ cảnh. Bài gốc cũng nhận định phiên bản ngoại tuyến nhiều khả năng sẽ chậm hơn và trả lời kém chính xác hơn bản trực tuyến.

Các tính năng nặng như chia sẻ camera hay màn hình đòi hỏi xử lý hình ảnh liên tục, nên theo bài gốc nhiều khả năng sẽ không có trong chế độ ngoại tuyến.

Ảnh: Thanh Niên Công nghệ

Những gì còn bỏ ngỏ, vì nguồn chưa nêu:

• Danh sách thiết bị được hỗ trợ.
• Ngôn ngữ dùng được khi ngoại tuyến, trong đó có tiếng Việt hay không.
• Phần nhận dạng và tổng hợp giọng nói chạy cục bộ thế nào.
• Thời điểm phát hành.
• Mức hiệu năng cụ thể.

Vì sao người dùng và dân kỹ thuật Việt Nam nên để ý

Kết nối ở Việt Nam chưa phải lúc nào cũng ổn định. Mạng 4G/5G ở đô thị đã khá tốt, nhưng sóng yếu vẫn là chuyện thường gặp khi đi đèo núi, ra đảo, đi tàu hỏa đường dài, ở trong hầm gửi xe hay tòa nhà kín. Người dùng trong nước cũng đã vài lần chịu cảnh truy cập quốc tế chậm khi các tuyến cáp quang biển gặp sự cố. Một trợ lý giọng nói vẫn dùng được cho các việc cơ bản trong những lúc như vậy sẽ có giá trị thực tế. Điều kiện là nó phải hỗ trợ tiếng Việt đủ tốt, và hiện chưa ai xác nhận điều này.

Quyền riêng tư và dữ liệu. Khi xử lý trên thiết bị, nội dung trò chuyện không nhất thiết phải rời khỏi điện thoại. Doanh nghiệp, cơ quan hay cá nhân làm việc với thông tin nhạy cảm thường e ngại gửi giọng nói lên đám mây. Mô hình chạy cục bộ giảm bớt nỗi lo đó. Tuy vậy, Google chưa công bố chế độ ngoại tuyến xử lý và lưu dữ liệu ra sao, nên chưa nên kết luận gì.

Tín hiệu cho lập trình viên mobile. Với dân phát triển ứng dụng Android, đây là thêm một dấu hiệu cho thấy AI on-device đang trở thành tính năng chính thức chứ không còn là thử nghiệm. Google đã mở Gemini Nano cho nhà phát triển thông qua AICore và các API GenAI trong ML Kit trên một số thiết bị. Nếu chính Gemini Live chuyển sang chạy được ngoại tuyến, thiết kế kiểu "hybrid" sẽ càng được coi là chuẩn: tác vụ nhẹ chạy cục bộ, tác vụ nặng đẩy lên cloud khi có mạng. Các nhóm làm app cho thị trường Việt Nam, như app giao vận, app hỗ trợ nông dân hay app du lịch, vốn hay gặp tình huống người dùng mất mạng, nên tính sớm tới kiến trúc này.

Bài toán phần cứng. Mô hình on-device thường chỉ chạy trên máy đủ mạnh. Ở Việt Nam, số người dùng smartphone tầm trung và giá rẻ rất lớn. Nếu chế độ ngoại tuyến chỉ có trên các dòng cao cấp, phần đông người dùng trong nước sẽ chưa được hưởng lợi ngay. Đây là suy luận dựa trên cách Gemini Nano được triển khai đến nay, không phải thông tin từ nguồn.

Ai nên quan tâm và có thể làm gì lúc này

Tính năng chưa được công bố, nên chưa có cách bật chính thức. Một vài việc có thể làm trong lúc chờ:

1. Kiểm tra phiên bản ứng dụng Google: vào Cài đặt → Ứng dụng → Google, hoặc xem trang ứng dụng trên Google Play. Bản 17.71.17 chứa dòng mã, nhưng có bản này không có nghĩa tính năng đã bật, vì Google thường kích hoạt từ phía máy chủ theo từng đợt.
2. Đăng ký bản beta của ứng dụng Google trên Google Play nếu muốn nhận thay đổi sớm. Đổi lại, bản beta có thể kém ổn định.
3. Xem máy có hỗ trợ Gemini Nano không: trên một số thiết bị có thể tìm thấy dịch vụ hệ thống AICore trong danh sách ứng dụng. Có AICore chưa chắc máy sẽ được hỗ trợ Gemini Live ngoại tuyến.
4. Với lập trình viên: thử các API GenAI on-device của ML Kit trên thiết bị tương thích để làm quen với giới hạn thực tế của mô hình nhỏ như độ trễ, độ dài đầu vào và chất lượng đầu ra, trước khi đưa vào sản phẩm.

Nhóm nên theo dõi tin này nhất gồm: người dùng Android hay di chuyển hoặc làm việc ở nơi sóng yếu; người quan tâm tới quyền riêng tư; và lập trình viên mobile đang cân nhắc tích hợp AI chạy cục bộ.

Lưu ý và hạn chế

• Chưa có xác nhận chính thức. Thông tin đến từ việc phân tích mã nguồn, không phải thông báo của Google. Tính năng có thể thay đổi, lùi lịch hoặc không bao giờ ra mắt.
• Đây là tin đăng lại. Thanh Niên tổng hợp lại từ Android Authority, đơn vị trực tiếp phân tích mã. Muốn xem chi tiết kỹ thuật như nội dung chính xác của các chuỗi mã, nên tìm đọc bài của Android Authority.
• Hiệu năng là ẩn số. Nhận định rằng bản ngoại tuyến chậm hơn và kém chính xác hơn mới là dự đoán. Google chưa công bố số liệu nào.
• Tính năng sẽ bị cắt bớt. Chia sẻ camera và màn hình có thể không dùng được khi ngoại tuyến. Câu hỏi cần kiến thức cập nhật như tin tức, thời tiết hay giá cả cũng cần internet.
• Tiếng Việt chưa rõ. Nguồn chưa nêu ngôn ngữ nào được hỗ trợ ở chế độ ngoại tuyến. Mô hình on-device thường được tối ưu cho tiếng Anh trước.

Kết

Gemini Live chạy ngoại tuyến, nếu thành hiện thực, chưa thể thay thế bản trực tuyến. Nhiều khả năng nó chỉ là phương án dự phòng cho các tác vụ đơn giản khi mất mạng. Điều đáng chú ý hơn là xu hướng phía sau: các trợ lý AI lớn đang dần có một phần chạy trên thiết bị. Với người dùng Việt Nam, giá trị thực tế phụ thuộc vào hai câu hỏi chưa có lời đáp: có hỗ trợ tiếng Việt không, và chạy được trên những dòng máy nào. Với lập trình viên, đây là lúc bắt đầu tìm hiểu AI on-device nếu chưa làm.

Nguồn: Thanh Niên Công nghệ