(English version below)
Háttér
A Római felhívás a mesterséges intelligencia etikájáért egy hivatalos nyilatkozat, amely a Pápai Élet Akadémia, a Microsoft, az IBM, a FAO és az olasz innovációs minisztérium támogatásával 2020. február 28-án adtak ki. A felhívás célja a mesterséges intelligencia etikai keretének előmozdítása, és három hatásterület köré épül: etika, oktatás és jogok. Emellett hat vezérelvet vázol fel a mesterséges intelligencia etikájára vonatkozóan, amelyek közé tartozik az átláthatóság, a befogadás, az elszámoltathatóság, a pártatlanság, a megbízhatóság, valamint a biztonság és a magánélet védelme.
Bevezetés
A felhívás hangsúlyozza, hogy a mesterséges intelligencia javíthatja a társadalmi interakciót, a személyes jólétet és a feladatvégzés hatékonyságát. Kiemeli, hogy a mesterséges intelligencia nem csupán kvantitatív módon változtatja meg a feladatok elvégzésének módját, hanem kvalitatív módon is befolyásolja a valóságról és az emberi természetről alkotott képzeteinket, potenciálisan befolyásolva a mentális és interperszonális szokásokat. A felhívás hangsúlyozza annak fontosságát, hogy a mesterséges intelligencia fejlesztése során tiszteletben kell tartani az emberi méltóságot, a természetes környezetet és a kiszolgáltatott csoportok igényeit, hogy elkerülhető legyen a kirekesztés és az algoritmikus kondicionálás kockázatai. Hangsúlyozza a felelősségvállalás szükségességét a teljes technológiai innovációs folyamat során, a tervezéstől a használatig, az etikus alkalmazások iránti valódi elkötelezettség biztosítása érdekében. A mesterséges intelligenciával kapcsolatos hosszú távú céloknak prioritásként kell kezelniük a digitális etikát vezérlő értékek és elvek beágyazását, biztosítva, hogy a technológia az emberiséget és a környezetet szolgálja. A hangsúlyt az emberi és környezeti jólétre kell helyezni, a digitális innováció középpontjában pedig az emberi és természeti elemek támogatása, nem pedig helyettesítése kell, hogy álljon.
Etika
Az emberi szabadság, méltóság és jogok védelme alapvető fontosságú a mesterséges intelligencia fejlesztése és használata során. A felhívás hangsúlyozza annak fontosságát, hogy olyan mesterséges intelligencia-rendszereket tervezzenek, amelyek nem tesznek különbséget faj, nem, nyelv, vallás vagy bármilyen más státusz alapján. A felhívás azt is hangsúlyozza, hogy a mesterséges intelligenciának az embereket és a környezetet egyaránt szolgálnia. Ahhoz, hogy a technológiai fejlődés valódi előrelépésnek minősüljön, a befogadást, az emberi és környezeti jólétet, valamint a fenntarthatóságot kell előtérbe helyezni. Emellett kiemeli annak szükségességét is, hogy az egyének tudatosan kezeljék a gépekkel való interakcióikat, és hogy a mesterséges intelligencia ne használja ki a kiszolgáltatott csoportokat, hanem inkább erősítse az egyéneket és támogassa a bolygót.
Oktatás
A felhívás kiemeli annak fontosságát, hogy a mesterséges intelligenciát az oktatás iránti erős elkötelezettségen keresztül integráljuk a jövőnkbe. Hangsúlyozza, hogy az oktatási rendszereknek befogadónak és mindenki számára hozzáférhetőnek kell lenniük, beleértve a fiatalokat, az időseket és a fogyatékkal élőket is. Az egész életen át tartó tanulás lehetőségének mindenki számára elérhetőnek kell lennie, és a mesterséges intelligencia hatékony eszköz lehet a fogyatékkal élők tanulásának és függetlenségének fokozásában. A mesterséges intelligencia által előidézett gyors változások miatt kulcsfontosságú, hogy az oktatási rendszerek alkalmazkodjanak és frissítsék tanterveiket annak érdekében, hogy senki se maradjon le. A reformoknak olyan objektív normák megállapítására kell összpontosítaniuk, amelyek túlmutatnak a digitális készségeken, és ehelyett az egyének teljes körű képességeinek és a közösségükhöz való hozzájárulásának előmozdítására irányulnak. Emellett a mesterséges intelligenciával kapcsolatos oktatásnak ki kell terjednie a társadalmi és etikai vonatkozások megvitatására is, elősegítve a társadalmi befogadás és az egyén tiszteletben tartása terén rejlő lehetőségek és potenciális kihívások tudatosítását. Végső soron a mesterséges intelligencia társadalomformáló felhasználásának szociálisan orientáltnak, kreatívnak és felelősségteljesnek kell lennie, és pozitív hatást kell gyakorolnia mind a személyes, mind a társadalmi életre.
Jog
A felhívás tárgyalja az etikai megfontolások és a szabályozási keretek döntő szerepét a mesterséges intelligencia technológiák fejlesztésében. Hangsúlyozza, hogy a mesterséges intelligenciát az emberi jogok védelmére, az átláthatóság előmozdítására és a digitális biztonsági intézkedések végrehajtására összpontosítva kell létrehozni. Ennek elérése érdekében a „magyarázati kötelezettség” koncepcióját javasolja, amely szerint az AI-rendszereknek érthető tájékoztatást kell nyújtaniuk a döntéshozatali folyamatukról. A felhívás kiemeli az emberi jogok védelmét szolgáló új szabályozások fontosságát is, különösen az olyan nagy kockázatú technológiák, mint az arcfelismerés esetében. A felhívás „algor-etikai” megközelítést sürget, amely magában foglalja az etikai elvek kezdettől fogva történő beépítését az AI-rendszerek tervezésébe. Ennek eléréséhez elengedhetetlen a különböző érdekelt felek – köztük a politikai döntéshozók, a nemzetközi szervezetek, a kutatók, a tudományos élet és a nem kormányzati szervezetek – közötti együttműködés és konszenzus.
The Rome Call for AI Ethics
Background
The Rome Call for AI Ethics is a formal statement supported by the Pontifical Academy for Life, Microsoft, IBM, FAO, and the Italian Ministry of Innovation, that was issued on February 28th, 2020, to promote the establishment of an ethical structure for artificial intelligence. The Call aims to promote an ethical framework for artificial intelligence and is structured around three impact areas: ethics, education, and rights. Additionally, it outlines six guiding principles for AI ethics, which include transparency, inclusion, accountability, impartiality, reliability, and security and privacy.
Introduction
The Call emphasizing AI’s potential to enhance social interaction, personal wellbeing, and task efficiency. It highlights that AI not only quantitatively changes how tasks are performed but also qualitatively impacts our perceptions of reality and human nature, potentially influencing mental and interpersonal habits. The Call emphasizes the importance of AI development respecting human dignity, natural environments, and addressing the needs of vulnerable populations to avoid exclusion and the risks of algorithmic conditioning. It stresses the need for responsibility throughout the entire technological innovation process, from design to use, to ensure genuine commitment to ethical applications. Long-term goals for AI should prioritize embedding values and principles that guide digital ethics, ensuring technology serves humanity and the environment. The focus should be on human and environmental well-being, with digital innovation centered on supporting rather than replacing human and natural elements.
Ethics
The protection of human freedom, dignity, and rights is crucial in the development and use of AI. The Call stresses the importance of designing AI systems that do not discriminate based on race, sex, language, religion, or any other status. The Call also emphasizes the need for AI to serve and protect both humans and the environment. In order for technological advancement to be considered genuine progress, it must prioritize inclusivity, human and environmental well-being, and sustainability. Additionally, It also highlights the need for individuals to be conscious of their interactions with machines and for AI to not exploit vulnerable populations, but rather empower individuals and support the planet.
Education
The Call highlights the importance of integrating artificial intelligence (AI) into our future through a strong commitment to education. It stresses the need for education systems to be inclusive and accessible to all, including the young, elderly, and those with disabilities. Lifelong learning opportunities should be available to everyone, and AI can be a powerful tool for enhancing learning and independence for those with disabilities. With the rapid changes brought about by AI, it is crucial that education systems adapt and update their curricula to ensure that no one is left behind. Reforms should focus on establishing objective standards that go beyond digital skills and instead aim to foster individuals’ full capabilities and contributions to their communities. Additionally, education on AI should also include discussions on its social and ethical implications, promoting awareness of both its opportunities and potential challenges for social inclusion and individual respect. Ultimately, the use of AI in shaping society must be socially oriented, creative, and responsible, with a positive impact on both personal and social life.
Rights
The Call discusses the crucial role of ethical considerations and regulatory frameworks in the development of AI technologies. It emphasizes the need for AI to be created with a focus on protecting human rights, promoting transparency, and implementing digital security measures. To achieve this, the concept of a „duty of explanation” is suggested, which advocates for AI systems to provide understandable information about their decision-making process. The Call also highlights the importance of new regulations to safeguard human rights, particularly in the context of high-risk technologies like facial recognition. It calls for an „algor-ethical” approach, which involves incorporating ethical principles into the design of AI systems from the start. To achieve this, collaboration and consensus among various stakeholders, including policymakers, international organizations, researchers, academia, and NGOs, is essential.