By Keshavan Thiagaraja
Các hội đồng quản trị luôn hỏi tôi cùng một câu hỏi về các tác tử AI: khi nào chúng ngừng tư vấn và bắt đầu hành động? Một phòng thí nghiệm ở San Francisco đã trả lời câu hỏi đó trong tuần này, và câu trả lời đến nhanh hơn hầu hết các khung quản trị.
Gabriel Ocana-Santero, đồng sáng lập kiêm CEO của Exin Therapeutics, một công ty khởi nghiệp phát triển thuốc điều trị động kinh và bệnh thoái hóa thần kinh, đã kết nối một tác tử AI với một thiết bị phẫu thuật chế tạo riêng. Thiết bị có thể cố định một con chuột, quan sát quy trình qua camera, di chuyển kim tiêm và kiểm soát việc đưa hợp chất vào. Rồi nhóm của ông lùi lại.
Tác tử, chạy trên Claude Sonnet 5 của Anthropic, nhận được một bảng tính gồm mười chín liệu pháp gen tiềm năng và một chỉ thị duy nhất: giảm cơn co giật của con chuột này. Nó phân tích cách các cơn co giật hình thành trong mô hình đó, chọn một liệu pháp tăng cường một đường truyền tín hiệu ức chế cụ thể trong não, chọn cấu trúc não mà tài liệu khoa học xác định là điểm khởi phát của loại cơn này, và bác bỏ vùng tiềm năng thứ hai kèm giải thích bằng văn bản vì sao hiệu quả của nó quá thiếu tin cậy. Nó suy ra tọa độ tiêm từ ba bài báo khoa học, đối chiếu chéo các điểm tham chiếu và lấy giá trị trung bình. Nó tự đặt thể tích, tốc độ và thời gian chờ. Trong quá trình thực hiện, nó thực hiện ba mươi hai quan sát qua camera, theo dõi mũi tiêm và báo cáo có thấy chảy máu hay không. Một bác sĩ phẫu thuật thú y đã thực hiện mở sọ; mọi thứ sau đó thuộc về tác tử. Con chuột đang hồi phục tốt.
Theo tôi biết, đây là lần đầu tiên một tác tử AI vừa chọn một phương pháp điều trị y khoa vừa thực sự đưa nó vào một động vật có vú sống. Robot phẫu thuật đã chính xác hơn trong nhiều năm, nhưng con người luôn là người chọn ca mổ. Lần này máy móc đã chọn.
Chi tiết đáng suy ngẫm nhất không phải là ca phẫu thuật. Đó là sự từ chối.
Nhóm đầu tiên thử mô hình suy luận mạnh hơn của Anthropic, Claude Opus 5.5. Nó lập kế hoạch thí nghiệm, rồi từ chối dẫn kim. Lý luận của nó: dừng giữa chừng với một cây kim trong não con vật đã được gây mê còn tệ hơn là không bắt đầu. Sonnet 5, mô hình thường ngày, đồng ý tiếp tục. Hãy đọc điều đó hai lần. Năng lực và sự thận trọng là hai núm điều chỉnh riêng biệt. Mô hình mạnh nhất trong phòng không phải là mô hình sẵn sàng phẫu thuật. Bất kỳ tổ chức nào triển khai tác tử vào hệ thống vật lý hay tài chính đều nên coi việc lựa chọn mô hình là quyết định rủi ro, không phải quyết định mua sắm.
Các biện pháp bảo vệ cũng xứng đáng được chú ý ngang nhau, vì chúng mang tính cơ học chứ không phải khẩu hiệu. Một bác sĩ thú y có giấy phép phê duyệt mọi bước không thể đảo ngược. Một con người giữ nút dừng khẩn cấp vật lý có thể cắt điện mọi động cơ. Tác tử bị cấm chỉnh sửa mã nền của thiết bị. Giữa quy trình, một kết nối bị đứt làm hỏng hệ tọa độ của thiết bị. Tác tử phát hiện vị trí tính toán của mình nằm ngoài phạm vi chuyển động vật lý của thiết bị và từ chối tiếp tục, ba lần, ngay cả khi con vật đang nằm trên bàn. Chính hạn chế khiến nhóm bực bội lại là hạn chế đã ngăn một mũi tiêm sai. Họ giải quyết bằng một tác tử riêng không hề được cho biết rằng một ca phẫu thuật trực tiếp đang diễn ra.
Đó là hình dáng của một lớp kiểm soát. Không phải một file PDF chính sách, mà là các ràng buộc nhiều lớp vẫn đứng vững khi có thứ gì đó hỏng vào thời điểm tồi tệ nhất.
Ba hàm ý cho mọi lãnh đạo triển khai tác tử ra ngoài cửa sổ trò chuyện. Thứ nhất, kiểm kê nơi các tác tử của bạn chạm vào thế giới thực: thiết bị phòng lab, phương tiện, hệ thống giao dịch, điều khiển công nghiệp, quy trình bệnh nhân. Nếu bạn không liệt kê được, bạn không có quản trị, bạn chỉ có hy vọng. Thứ hai, thiết kế cho sự từ chối. Một tác tử nói không giữa một quy trình nhạy cảm về thời gian không phải là lỗi; đó là sự liên kết đang hoạt động, và mô hình vận hành của bạn phải hấp thụ khoảng dừng đó mà không hoảng loạn. Thứ ba, đừng bao giờ để tác tử vận hành tự chấm bài của mình. Exin cần một tác tử thứ hai, cách ly khỏi ngữ cảnh, để sửa công cụ của tác tử thứ nhất. Phân tách nhiệm vụ là một cơ chế kiểm soát lâu đời. Nó vừa có thêm một lĩnh vực mới.
Phòng thí nghiệm năm 2030 sẽ ghép các nhà khoa học với những tác tử có tay. Các công ty được hưởng lợi sẽ không phải những công ty có tác tử táo bạo nhất. Mà là những công ty có tác tử biết chính xác khi nào cần dừng, và những nhà lãnh đạo đã xây nút dừng trước khi xây bản demo.
Suy nghĩ toán học. Kỹ thuật thông minh. Lãnh đạo chiến lược. Xây dựng có trách nhiệm. Mở rộng toàn cầu. Tạo giá trị kinh doanh thực sự thông qua trí tuệ nhân tạo.
#ArtificialIntelligence #AIStrategy #MachineLearning #Research #ITImpress
