Breton menyatakan bahwa Parlemen Eropa melarang penggunaan pengawasan real-time dan teknologi biometrik, termasuk pengenalan emosi. Namun, ada tiga pengecualian, di mana teknologi ini dapat digunakan oleh polisi dalam situasi ancaman serangan teroris yang tidak terduga, pencarian korban, dan penuntutan kejahatan berat.
Dalam perjuangan untuk mencapai kesepakatan, terdapat perselisihan mengenai model landasan yang dirancang untuk tujuan umum dan bukan tujuan khusus. Selain itu, negosiasi mengenai pengawasan berbasis AI yang dapat digunakan oleh polisi untuk merekam anggota masyarakat secara real-time dan mengenali tekanan emosional juga berlarut-larut.
Brando Benefei, anggota Parlemen Eropa yang memimpin tim perundingan, menyatakan bahwa tujuan utama adalah menciptakan undang-undang yang memastikan ekosistem AI di Eropa berkembang dengan pendekatan berpusat pada manusia.
Hal ini mencakup penghormatan terhadap hak-hak dasar, nilai-nilai kemanusiaan, membangun kepercayaan, dan meningkatkan kesadaran tentang pemanfaatan AI dalam revolusi teknologi yang sedang terjadi.
Dengan dasar perjanjian yang mencakup sistem berjenjang berbasis risiko, diharapkan regulasi ini dapat menjaga kesehatan, keselamatan, dan hak asasi manusia dari dampak negatif AI.
Peraturan tersebut memberikan tanggung jawab besar pada layanan AI, dengan aturan dasar tentang pengungkapan data yang digunakan untuk melatih mesin dalam berbagai aplikasi.
Kesepakatan ini membuat UE menjadi pelopor dalam menetapkan peraturan nyata untuk AI, menciptakan contoh bagi banyak negara untuk mempertimbangkan regulasi serupa.
Sementara negara lain mungkin tidak meniru setiap ketentuan, kemungkinan besar mereka akan mengadopsi banyak aspek dari peraturan ini. Perusahaan AI yang harus mematuhi regulasi UE juga kemungkinan akan menerapkan sebagian dari kewajiban tersebut ke pasar di luar wilayah UE.
