Điều này không chỉ gây thiệt hại về tài sản, mà còn đặt ra thách thức lớn trong việc quản lý, kiểm soát công nghệ và bảo vệ người dùng trên môi trường số. Vì vậy, dự thảo Luật Trí tuệ nhân tạo đang được xây dựng, xin ý kiến cũng đã đưa ra quy định về các trường hợp trí tuệ nhân tạo bị cấm.

Theo dự thảo, nghiêm cấm việc nghiên cứu, phát triển, cung cấp, triển khai và sử dụng hệ thống trí tuệ nhân tạo trong nhiều trường hợp, trong đó có:

Thao túng nhận thức, hành vi của con người một cách có chủ đích nhằm làm mất khả năng tự chủ, ra quyết định, dẫn đến hoặc có khả năng dẫn đến tổn hại về thể chất hoặc tinh thần. Lợi dụng các điểm yếu của một nhóm người cụ thể liên quan đến tuổi tác, khuyết tật hoặc hoàn cảnh kinh tế, xã hội để tác động đến hành vi của họ.

Chấm điểm tín nhiệm xã hội đối với cá nhân trên phạm vi rộng bởi cơ quan nhà nước, dẫn đến sự đối xử bất lợi hoặc không công bằng trong các bối cảnh xã hội không liên quan.

Sản xuất hoặc phổ biến nội dung giả mạo và các nội dung khác do trí tuệ nhân tạo tạo ra có khả năng gây nguy hại nghiêm trọng đến trật tự, an toàn xã hội, an ninh quốc gia.

Lừa đảo sử dụng trí tuệ nhân tạo chỉ là một trong rất nhiều thách thức mà công nghệ mới đang đặt ra cho công tác quản lý. Cùng với sự phát triển mạnh mẽ của AI, hàng loạt vấn đề về an toàn thông tin, đạo đức, quyền riêng tư và trách nhiệm pháp lý ngày càng trở nên cấp thiết. Chính vì vậy, việc xây dựng Luật Trí tuệ nhân tạo không chỉ nhằm ngăn chặn những hành vi lợi dụng công nghệ để phạm tội, mà còn để định hình một hành lang pháp lý an toàn, bảo đảm AI được phát triển và ứng dụng đúng hướng.