Tôi là ai – ai là tôi?

Tôi là ai – ai là tôi?

Nguyễn Vạn Phú

Nếu đã xem phim hình sự, có lẽ ai cũng từng thấy cảnh sát cho nạn nhân xem một tập dày hình ảnh của các tay tội phạm từng lãnh án để nhận diện thủ phạm, một quy trình kéo dài vài tiếng đến vài ngày mà chưa chắc đã có kết quả. Nay công nghệ nhận diện gương mặt đã được tự động hóa, có khả năng tìm ra một gương mặt giống đến 99% trong cơ sở dữ liệu vài triệu tấm hình nhưng chính giới công nghệ đang ân hận, không muốn chuyển giao kỹ thuật này cho bên cảnh sát. Vì sao?

Không phải là cảnh trong phim viễn tưởng

Đường phố đông nghẹt người. Cảnh sát đang mở chiến dịch truy tìm một tội phạm vừa gây ra vụ thảm sát hàng loạt. Đã có hình thủ phạm. Trung tâm giám sát công dân quét hình vào hệ thống. Ngay lập tức hàng trăm ngàn camera đang hoạt động khắp nơi nhận lệnh phải phát hiện tay thủ ác càng sớm càng tốt. Camera ở một đường phố chớp lóe cảnh báo – tìm ra rồi, 95% chính xác. Các trinh sát hình sự ập đến, còng tay tên tội phạm trong nháy mắt.

Đoạn miêu tả ở trên nghe như kể lại một đoạn phim khoa học giả tưởng nhưng công nghệ nhận diện đúng gương mặt người cần tìm kiếm trong đám đông là đã có thật và đang được sử dụng. Chỉ có điều, khác với phim, bắt đúng ngay người cần bắt, trong thực tế khi trinh sát dẫn kẻ tình nghi về đồn, hóa ra họ bắt nhầm một thầy giáo dạy nhạc vô hại.

Đó là kịch bản để nhiều người phản đối việc sử dụng phần mềm nhận diện trong hoạt động của cảnh sát với lý do công nghệ này vẫn còn non trẻ, vẫn còn sai sót và dễ dẫn tới bắt nhầm gây oan sai. Thật ra lập luận này khó đứng vững vì người khác có thể bẻ lại: giả thử bên điều tra chỉ dùng công nghệ nhận diện như một ứng dụng hỗ trợ, sau khi xác định được kẻ tình nghi, họ sẽ còn phải tiến hành các bước xác minh khác như cách làm lâu nay thì đâu có vấn đề gì. Nói cách khác, ngày xưa nhận diện bằng con người mất thời gian rất lâu, nay máy giúp nhận diện trong chớp mắt – đó là tiến bộ, sao lại phản đối?

Tuy nhiên cứ tưởng tượng cảnh sẽ có hàng triệu camera có khả năng nhận ra bạn là ai, đi theo bạn suốt ngày suốt đêm, cả khi vào xem phim hay ngồi nhậu với bạn bè, có lẽ ai nấy đều cảm thấy lạnh xương sống. Vì sao có cảm giác đó, xin nói thêm ở phần sau.

Ở đây phải tỉnh táo mà dự đoán, công nghệ nhận diện gương mặt người rồi sẽ thâm nhập mọi ngóc ngách cuộc sống, dù chúng ta có muốn hay không. Hiện nay hệ thống camera an ninh và giám sát đã đầy khắp, việc kết nối chúng với một trung tâm có khả năng sử dụng kỹ thuật “máy học” kết hợp với trí tuệ thông minh nhân tạo để tạo ra một hệ thống có thể biết một con người cụ thể nào đó đang ở đâu, làm gì, nói chuyện với ai là điều sớm muộn gì cũng xảy ra.

Về danh nghĩa, một hệ thống như thế sẽ giúp truy tìm tội phạm, tìm người thất lạc, phát hiện bọn khủng bố một cách nhanh chóng. Một hệ thống nhỏ hơn, khép kín có thể giúp kiểm soát vé tại một trận cầu, biết ai là khách mời ở một sự kiện mà khỏi cần xét vé… Trong thực tế, công nghệ nhận diện đã khá phổ biến như gợi ý gắn tên với khuôn mặt trên Facebook, mở khóa iPhone X, tự động chỉnh độ nét khi chụp ảnh bằng điện thoại thông minh.    

Đâu là giới hạn?

Vậy với công nghệ nhận diện, đâu là giới hạn công nghệ phải dừng chân để bảo vệ quyền riêng tư của con người. Như đã nói ở trên, phản ứng đầu tiên của nhiều người là sợ phần mềm có sai sót, gì thì gì, cứ nghĩ một hôm mình bị tóm cổ trên đường phố chỉ vì phần mềm báo động giả mình có tên trong danh sách cảnh sát đang truy nã toàn quốc, ai mà không phản đối. Phản đối nhiều nhất là nỗi sợ máy móc bị lạm dụng để tô đậm thiên kiến đối với dân da màu, người nhập cư hay người từng bị cảnh sát vào sổ đen.

Cảnh sát ở Cardiff, Wales lần đầu tiên dùng phần mềm nhận diện tại một trận bóng vào tháng 6/2017 đã phát hiện máy nhận diện sai hàng ngàn gương mặt, tỷ lệ nhận diện sai lên đến 92%. Còn hệ thống nhận diện của FBI, đưa vào sử dụng đã lâu, đã hoàn thiện, vẫn cho kết quả sai đến 14%.  

Amazon có một phần mềm nhận diện khuôn mặt, đặt tên là Rekognition hiện được một số cơ quan cảnh sát ở Mỹ sử dụng. Một hôm, tổ chức Liên đoàn Tự do Dân sự Mỹ (ACLU) lấy phần mềm này ra thử nghiệm, so sánh hình ảnh của các Hạ nghị sĩ lẫn Thượng nghị sĩ Mỹ với cơ sở dữ liệu chứa 25.000 ảnh chân dung các tên tội phạm. Kết quả 28 vị dân biểu Quốc hội Mỹ bị nhận diện sai thành tội phạm! Năm vị này tức quá, bèn viết một lá thư cho ông chủ Amazon là tỷ phú Jeff Bezos yêu cầu gặp ngay để hỏi cho ra lẽ vì sao phần mềm nhận diện lung tung thế.

Như thế, kết luận đầu tiên có thể rút ra ngay là công nghệ nhận diện, dù đang tiến rất nhanh, vẫn còn chưa hoàn chỉnh ở mức có thể tin cậy đưa vào sử dụng đại trà. Mọi lời chào của các hãng công nghệ, dù lời lẽ hoa mỹ đến đâu vẫn phải được tiếp nhận với sự hoàn nghi cao độ.

Nhưng giả thử công nghệ sẽ tiến nhanh, trí tuệ thông minh nhân tạo tự học, sẽ hoàn thiện khả năng để sai sót tiến về chỗ không đáng kể. Lúc đó có nên trao số phận của chúng ta cho máy móc chưa?

Ứng dụng công nghệ nhận diện vào cuộc sống nhiều nhất chính là Trung Quốc, nơi người ta kết hợp công nghệ theo dõi với hệ thống chấm điểm công dân để có thể dùng cách bêu tên kẻ bộ hành băng qua đường sai luật hay hút thuốc ở nơi cấm hút thuốc. Thay vì bị phạt, người đi bộ sai luật sẽ bị bêu tên và hình ảnh kèm số chứng minh đã bị làm mờ lên màn hình ngay cạnh nơi xảy ra vi phạm.  

Ở Việt Nam, câu chuyện thời sự là hình ảnh nhạy cảm của một cặp đôi vào rạp xem phim nhưng lại “thân mật” thái quá bị tung lên mạng. Báo chí tường thuật những hình ảnh này chụp lại từ hệ thống camera giám sát của cụm rạp với nhiều tư thế và rất rõ mặt. Bên cạnh việc lên án cặp đôi này, nhiều người mới giật mình, té ra vào rạp xem phim cũng bị quây camera và hình ảnh của bạn có thể bị phát tán lên mạng lúc nào không hay.

Kết luận thứ nhì ở đây là hình phạt phải tương xứng với vi phạm; hút thuốc nơi bị cấm có thể chịu phạt một khoản tiền lớn hay thậm chí nhiều ngày lao động công ích nhưng không thể bêu tên và hình ảnh người hút lên chốn công cộng. Âu yếm trong rạp chiếu phim có thể bị lên án là bất lịch sự, làm quá thì bị kết tội “công xúc tu sĩ” nhưng không thể bêu xấu họ lên mạng xã hội được, hình ảnh của họ không được bị rò rỉ phát tán lên không gian công cộng được.

Có lẽ cho dù sau này trí tuệ nhân tạo thông minh xuất sắc nhận diện ai là trúng phóc, con người cũng không thể giao phó cho máy móc làm công việc phán xử con người. Hãy cứ hình dung một kịch bản, phần mềm nhận diện thế hệ mới nhận diện bạn vừa mới vượt đèn đỏ ở một ngã tư, gởi hình ảnh vi phạm này về trung tâm. Phần mềm xử lý trung tâm dùng thuật toán có sẵn ra lệnh cho các camera ở đường phố kế tiếp theo dõi bạn, đến một đoạn đường có xây rào chắn đóng mở tự động, máy ra lệnh các cọc bê tông nổi lên để chặn xe bạn lại. Tai nạn xảy ra vì hai người bạn ngồi băng sau không thắt dây an toàn nên bị hất văng ra xa. Kịch bản là giả định nhưng nỗi lo là có thật.

Loại phim khoa học viễn tưởng trong đó cảnh sát người máy tuần tra, kiểm soát và xử phạt đám đông có khá nhiều, lúc nào cái kết cũng là sự nổi dậy của con người chống lại, đôi lúc có sự hỗ trợ của một người máy “phản tỉnh” có tính người. Một chủ đề khác cũng khá phổ biến trong thể loại phim viễn tưởng là người máy thống trị nhân loại, chúng ta thường coi để giải trí, ít ai nghĩ máy móc có đủ trí khôn để cai trị con người. Có lẽ sự thống trị mà phim ảnh nhắc đến chỉ là một ẩn dụ - khi chúng ta phụ thuộc vào máy móc như kiểu phần mềm nhận diện – tức chúng ta đã nhường quyền kiểm soát, nhường sự phán xét cho máy móc và chịu phận nô lệ từ đây.