- Gamma NT - https://congngheweb.vn -

Anh, Mỹ hành động kiểm soát tính an toàn của AI

Thủ tướng Anh Rishi Sunak, trong bài phát biểu trước Hội Hoàng gia London cho biết, Chính phủ của ông đang công bố những phân tích về rủi ro của AI, bao gồm những đánh giá từ các cơ quan tình báo.

ai_medica_rz

Thủ tướng Rishi Sunak thừa nhận những rủi ro của “siêu trí tuệ” AI và thực tế là hiện chưa có khung quản lý cho công nghệ này.

Thủ tướng Anh cho biết: “Hiện nay, chỉ có các tổ chức đang phát triển AI kiểm tra tính an toàn của nó. Nhưng ngay cả họ không phải lúc nào cũng hiểu hết được những khả năng trên hệ thống của mình”. Mặc dù chính phủ chịu trách nhiệm xử lý những rủi ro đối với sự an toàn nhưng chính sách của Vương quốc Anh là “không vội vàng điều chỉnh”.
Đầu tuần này, Chính phủ Anh đã công bố một quỹ trị giá 100 triệu bảng để phát triển tiềm năng của AI trong khoa học đời sống và chăm sóc sức khỏe (CSSK). Vương quốc Anh đã đầu tư 100 triệu bảng Anh vào tác vụ trên mô hình nền tảng AI và Thủ tướng Rishi Sunak cho biết, Chính phủ cũng sẽ thành lập viện An toàn AI đầu tiên trên thế giới.

Viện sẽ “kiểm tra, đánh giá và thử nghiệm các loại AI mới một cách thận trọng để hiểu khả năng của từng mô hình, khai thác tất cả những rủi ro, từ các tác hại về mặt xã hội như những thành kiến và thông tin sai lệch, cho đến những rủi ro cực đoan nhất …”.
Phản ứng của các công ty Anh

Nhìn chung, các công ty CSSK ở Anh hoan nghênh cách tiếp cận của Thủ tướng Anh, mặc dù một số người cảnh báo rằng chính sách của Chính phủ cần đảm bảo việc tập trung đưa đất nước thành ngôi nhà cạnh tranh cho công nghệ mới phải được cân bằng với nhận thức về nhu cầu bảo vệ các bệnh nhân.

Paul McGinness, đồng sáng lập và là CEO của công ty dữ liệu sức khỏe Lenus Health cho biết: “Trong khi chính phủ nhận được nhiều ý kiến ủng hộ và sự đánh giá cao về những thay đổi công nghệ cùng sự lạc quan về tương lai thì chúng tôi nhấn mạnh rằng, đầu tư vào AI có tiềm năng mang lại sự thay đổi cho sức khỏe cộng đồng của Vương quốc Anh hôm nay chứ không phải chỉ là đầu tư cho tương lai”.

Trong tình trạng thiếu nhân lực, chờ đợi lâu và số ca nhập viện tăng đột biến liên quan đến các bệnh hô hấp mãn tính như bệnh phổi tắc nghẽn mãn tính (COPD) thì việc tập trung một tỷ lệ đáng kể trong khoản đầu tư AI trị giá 100 triệu bảng của chính phủ vào Dịch vụ y tế quốc gia (NHS) có thể cứu mạng sống trong mùa đông này.”

Paul McGinness hoan nghênh: “Cách tiếp cận thực tế với quy định cho mục đích này để Lenus Health, với tư cách là một công ty khởi nghiệp ở Vương quốc Anh hợp tác với các cộng tác viên NHS của chúng tôi để có thể tiếp tục dẫn đầu AI trong dự đoán các bệnh mãn tính”.

Michael Measures, Giám đốc công nghệ của công ty tư vấn kỹ thuật số Answer Digital đánh giá cao sự phân chia các loại AI khác nhau của Thủ tướng Rishi Sunak: “Loại chúng ta nên xử lý thận trọng và loại chúng ta nên đẩy mạnh. Các loại chúng tôi đang sử dụng trong chăm sóc sức khỏe chắc chắn là loại nên đẩy mạnh”.

Ông nói thêm: “AI đã bắt đầu tạo được dấu ấn trong lĩnh vực CSSK về hình ảnh, chẩn đoán và thử nghiệm thuốc, nhưng nó có rất nhiều tiềm năng thực hiện các thay đổi trong toàn hệ thống, từ tăng cường hỗ trợ quyết định lâm sàng đến xử lý ngôn ngữ tự nhiên”.

Tuy nhiên, trong khi nhấn mạnh vào sự đổi mới trên quy định của Thủ tướng là quan trọng cho sự đổi mới thành công thì “phải giữ sự đổi mới này trong những phạm vi an toàn, không nên bỏ qua sự giám sát”.

Ông hy vọng khoản đầu tư 100 triệu bảng Anh sẽ được sử dụng để giảm thiểu rủi ro liên quan đến việc triển khai AI, bao gồm cả những thành kiến cố hữu, để xây dựng niềm tin của công chúng đối với công nghệ. “Đầu tư cho an toàn, dân chủ để kiểm thử, đào tạo và mở rộng quy mô AI phải là ưu tiên hàng đầu với các công cụ triển khai AI nguồn mở là chìa khóa hỗ trợ thu thập bằng chứng mạnh mẽ và giám sát thị trường trong suốt vòng đời của mô hình AI”.

Jardine Barrington-Cook, người đứng đầu bộ phận dữ liệu và tương tác và tại Access Health, Support and Care đã cảnh báo về một mối nguy hiểm khác là việc chính phủ chưa tập trung vào các cam kết tài trợ mới cho những giải pháp có cơ hội lớn nhất cho sự phát triển.

“Để mở khóa tiềm năng này, chúng tôi cần chuyển những trọng tâm của mình từ thử nghiệm POC (tính khả thi của ý tưởng) quy mô nhỏ sang sử dụng các tập dữ liệu lớn, chất lượng cao và tăng cường các cách tiếp cận để triển khai, nếu không chúng tôi sẽ thấy mình đang ở trong một chu kỳ bong bóng (hype cycle) khác và tiềm năng chưa được khai thác. Điều này về lâu dài sẽ gây bất lợi cho các bệnh nhân và bác sĩ lâm sàng”.

Mỹ ban hành Sắc lệnh bảo vệ khỏi những rủi to tiềm ần từ AI

Mỹ giữ lập trường quan điểm tích cực hơn về an toàn AI với việc tuần trước Tổng thống Joe Biden ban hành Sắc lệnh nhằm bảo vệ người Mỹ khỏi những rủi ro tiềm ẩn từ AI. Sắc lệnh đề cập đến một loạt các nội dung bao gồm toàn bộ những tiêu chuẩn, quyền riêng tư, tính công bằng và những quyền công dân, bảo vệ bệnh nhân, người lao động, người tiêu dùng cũng như sự đổi mới và cạnh tranh.

Một số biện pháp được nêu trong Sắc lệnh gồm: yêu cầu các nhà phát triển những hệ thống AI mạnh nhất chia sẻ các bài kiểm thử an toàn và “thông tin quan trọng khác” của họ với chính phủ; phát triển “những tiêu chuẩn, công cụ và thử nghiệm” để đảm bảo an toàn, bảo mật và độ tin cậy của các hệ thống AI; bảo vệ khỏi những rủi ro khi sử dụng AI để chế tạo các vật liệu sinh học nguy hiểm.

Sắc lệnh cũng nêu rõ, Bộ Y tế và Dịch vụ Nhân sinh sẽ thiết lập một chương trình an toàn để nhận các báo cáo và hành động khắc phục những tác hại hoặc “những hoạt động CSSK không an toàn” liên quan đến AI./.

Nguồn: Internet