Một ủy ban chủ chốt gồm các nhà lập pháp trong Nghị viện Châu Âu đã phê duyệt một quy định về trí tuệ nhân tạo đầu tiên thuộc loại này khiến quy định này gần trở thành luật hơn.
Sự chấp thuận này đánh dấu một bước phát triển mang tính bước ngoặt trong cuộc đua giữa các cơ quan chức năng để kiểm soát AI, vốn đang phát triển với tốc độ chóng mặt. Luật này, được gọi là Đạo luật AI của Châu Âu, là luật đầu tiên dành cho các hệ thống AI ở phương Tây. Trung Quốc đã phát triển các quy tắc dự thảo được thiết kế để quản lý cách các công ty phát triển các sản phẩm AI tổng quát như ChatGPT.
Luật áp dụng cách tiếp cận dựa trên rủi ro để điều chỉnh AI, trong đó các nghĩa vụ đối với một hệ thống tương ứng với mức độ rủi ro mà nó gây ra.
Các quy tắc cũng chỉ định các yêu cầu đối với các nhà cung cấp cái gọi là “mô hình nền tảng” như ChatGPT, vốn đã trở thành mối quan tâm chính của các cơ quan quản lý, do họ đang trở nên tiên tiến như thế nào và lo ngại rằng ngay cả những công nhân lành nghề cũng sẽ bị thay thế.
Các quy tắc nói gì?
Đạo luật AI phân loại các ứng dụng của AI thành bốn cấp độ rủi ro: rủi ro không thể chấp nhận được, rủi ro cao, rủi ro hạn chế và rủi ro tối thiểu hoặc không có rủi ro.
Các ứng dụng rủi ro không được chấp nhận bị cấm theo mặc định và không thể triển khai trong khối.
Chúng bao gồm:
- Hệ thống AI sử dụng các kỹ thuật tiềm thức hoặc kỹ thuật thao túng hoặc lừa đảo để bóp méo hành vi
- Hệ thống AI khai thác lỗ hổng của cá nhân hoặc nhóm cụ thể
- Hệ thống phân loại sinh trắc học dựa trên các thuộc tính hoặc đặc điểm nhạy cảm
- Hệ thống AI được sử dụng để chấm điểm xã hội hoặc đánh giá độ tin cậy
- Các hệ thống AI được sử dụng để đánh giá rủi ro, dự đoán các hành vi phạm tội hoặc hành chính
- Các hệ thống AI tạo hoặc mở rộng cơ sở dữ liệu nhận dạng khuôn mặt thông qua việc cạo không nhắm mục tiêu
- Hệ thống AI suy luận cảm xúc trong thực thi pháp luật, quản lý biên giới, nơi làm việc và giáo dục
Một số nhà lập pháp đã kêu gọi thực hiện các biện pháp đắt đỏ hơn để đảm bảo chúng bao trùm ChatGPT.
Để đạt được mục tiêu đó, các yêu cầu đã được áp đặt đối với “các mô hình nền tảng”, chẳng hạn như các mô hình ngôn ngữ lớn và AI tổng quát.
Các nhà phát triển mô hình nền tảng sẽ được yêu cầu áp dụng kiểm tra an toàn, các biện pháp quản trị dữ liệu và giảm thiểu rủi ro trước khi công khai mô hình của họ.
Họ cũng sẽ được yêu cầu đảm bảo rằng dữ liệu đào tạo được sử dụng để thông báo cho hệ thống của họ không vi phạm luật bản quyền.
“Các nhà cung cấp các mô hình AI như vậy sẽ được yêu cầu thực hiện các biện pháp để đánh giá và giảm thiểu rủi ro đối với các quyền cơ bản, sức khỏe và an toàn cũng như môi trường, dân chủ và pháp quyền,” Ceyhun Pehlivan, cố vấn tại Linklaters và đồng lãnh đạo của công ty luật nhóm thực hành viễn thông, truyền thông và công nghệ và IP ở Madrid, nói với CNBC.
“Họ cũng sẽ phải tuân theo các yêu cầu quản trị dữ liệu, chẳng hạn như kiểm tra tính phù hợp của các nguồn dữ liệu và các sai lệch có thể xảy ra.”
Điều quan trọng cần nhấn mạnh là, mặc dù luật đã được các nhà lập pháp tại Nghị viện Châu Âu thông qua, nhưng vẫn còn lâu mới trở thành luật.
Tại sao bây giờ?
Các công ty tư nhân được giao quyền phát triển công nghệ AI với tốc độ chóng mặt, tạo ra các hệ thống như Microsoft được hỗ trợ bởi ChatGPT của OpenAI và Bard của Google.
Google vào thứ Tư đã công bố một loạt các bản cập nhật AI mới, bao gồm một mô hình ngôn ngữ tiên tiến có tên PaLM 2, công ty cho biết vượt trội so với các hệ thống hàng đầu khác trong một số tác vụ.
Các chatbot AI mới lạ như ChatGPT đã làm say mê nhiều nhà công nghệ và học giả nhờ khả năng tạo ra phản hồi giống như con người đối với lời nhắc của người dùng được cung cấp bởi các mô hình ngôn ngữ lớn được đào tạo trên lượng dữ liệu khổng lồ.
Nhưng công nghệ AI đã xuất hiện trong nhiều năm và được tích hợp vào nhiều ứng dụng và hệ thống hơn bạn nghĩ. Ví dụ: nó xác định video lan truyền hoặc hình ảnh đồ ăn nào bạn nhìn thấy trên nguồn cấp dữ liệu TikTok hoặc Instagram của mình.
Mục đích của các đề xuất của EU là cung cấp một số quy tắc cho các công ty và tổ chức AI sử dụng AI.
Phản ứng của ngành công nghệ
Các quy tắc đã làm dấy lên mối lo ngại trong ngành công nghệ.
Hiệp hội Công nghiệp Máy tính và Truyền thông cho biết họ lo ngại rằng phạm vi của Đạo luật AI đã được mở rộng quá mức và nó có thể bắt được các dạng AI vô hại.
Boniface de Champris, giám đốc chính sách tại CCIA Châu Âu, cho biết: “Thật đáng lo ngại khi thấy rằng nhiều loại ứng dụng AI hữu ích – vốn gây ra rủi ro rất hạn chế, hoặc không có rủi ro nào cả – giờ đây sẽ phải đối mặt với các yêu cầu nghiêm ngặt, hoặc thậm chí có thể bị cấm ở Châu Âu”. nói với CNBC qua email.
“Đề xuất ban đầu của Ủy ban Châu Âu về Đạo luật AI áp dụng cách tiếp cận dựa trên rủi ro, điều chỉnh các hệ thống AI cụ thể có rủi ro rõ ràng,” de Champris nói thêm.
“MEP hiện đã đưa ra tất cả các loại sửa đổi làm thay đổi bản chất của Đạo luật AI, hiện cho rằng các loại AI rất rộng vốn đã nguy hiểm.”
Các chuyên gia đang nói gì
Dessi Savova, người đứng đầu khu vực châu Âu lục địa của nhóm công nghệ tại công ty luật Clifford Chance, nói rằng các quy tắc của EU sẽ đặt ra một “tiêu chuẩn toàn cầu” cho quy định về AI. Tuy nhiên, bà nói thêm rằng các khu vực pháp lý khác bao gồm Trung Quốc, Hoa Kỳ và Vương quốc Anh đang nhanh chóng phát triển các phản ứng gieo hạt của họ.
Savova nói với CNBC qua email: “Phạm vi tiếp cận dài hạn của các quy tắc AI được đề xuất vốn có nghĩa là những người chơi AI ở mọi nơi trên thế giới cần phải quan tâm.
“Câu hỏi đặt ra là liệu Đạo luật AI có thiết lập tiêu chuẩn duy nhất cho AI hay không. Trung Quốc, Hoa Kỳ và Vương quốc Anh, cùng với một số quốc gia, đang xác định chính sách AI và các phương pháp tiếp cận theo quy định của riêng họ. Không thể phủ nhận rằng tất cả họ sẽ theo dõi chặt chẽ các cuộc đàm phán về Đạo luật AI để điều chỉnh các phương pháp tiếp cận của riêng họ.”
Savova nói thêm rằng dự thảo Đạo luật AI mới nhất từ Quốc hội sẽ đưa vào luật nhiều nguyên tắc đạo đức về AI mà các tổ chức đang thúc đẩy.
Sarah Chander, cố vấn chính sách cấp cao của European Digital Rights, một nhóm chiến dịch quyền kỹ thuật số có trụ sở tại Brussels, cho biết luật sẽ yêu cầu các mô hình nền tảng như ChatGPT phải “trải qua các yêu cầu về thử nghiệm, tài liệu và tính minh bạch”.
Chander nói với CNBC: “Mặc dù các yêu cầu về tính minh bạch này sẽ không loại bỏ được các mối lo ngại về cơ sở hạ tầng và kinh tế đối với sự phát triển của các hệ thống AI rộng lớn này, nhưng nó yêu cầu các công ty công nghệ tiết lộ lượng điện toán cần thiết để phát triển chúng”.
Pehlivan cho biết: “Hiện tại có một số sáng kiến nhằm điều chỉnh AI trên toàn cầu, chẳng hạn như Trung Quốc và Hoa Kỳ.
“Tuy nhiên, Đạo luật AI của EU có thể sẽ đóng một vai trò then chốt trong việc phát triển các sáng kiến lập pháp như vậy trên khắp thế giới và đưa EU một lần nữa trở thành người đặt ra các tiêu chuẩn trên trường quốc tế, tương tự như những gì đã xảy ra liên quan đến Dữ liệu chung Quy chế bảo vệ.”
Theo CNBC (Dịch: Hoàng Lan)
