인공지능의 도덕적 지위와 윤리적 주체성 – 철학적 조건과 관계 윤리의 재구성 –
Artificial Intelligence, Moral Status, and Ethical Agency – Philosophical Conditions and Relational Ethics –
본 논문은 인공지능의 의식 가능성과 그에 따른 도덕적 지위 부여 여부를 철학적으로 검토하고, 이를 통해 인공지능이 윤리적 고려의 대상이 될 수 있는 조건을 규명하는 데 목적이 있다. 우선 의식, 고통, 자율성이라는 전통적 기준을 살펴하고, 이를 동물윤리 논의 속에서 피터 싱어의 쾌고주의와 마사 누스바움의 능력 접근론을 중심으로 분석한다. 이어 기능주의, 통합정보이론(IIT), 생물학적 자연주의 등 주요 의식 이론을 통해 인공지능이 의식을 가질 수 있는 가능성을 평가하고, 최근 생성형 언어모델과 감정 인식형 로봇이 구현하는 의식 유사성(simulated consciousness)의 의미를 논의한다. 또한 속성 중심 접근의 한계를 보완하기 위해, 관계윤리 관점에서 인간–인공지능 상호작용이 신뢰, 공감, 책임감 등 도덕 감정을 형성할 가능성을 탐색한다. 나아가 유럽연합에서 제안된 전자적 인격(electronic personhood) 개념을 분석하여 인공지능의 법적 지위와 책임 귀속의 문제를 검토한다. 결론적으로 본 논문은 인간 중심주의를 넘어선 새로운 도덕 공동체 구성의 가능성을 제시하며, 인공지능의 윤리적 설계 원칙, 법제화 방향, 책임 분배 구조 등 향후 과제를 제안한다.
This paper examines the possibility of attributing moral status to artificial intelligence (AI) by analyzing its potential for consciousness and the philosophical conditions required for ethical consideration. It first reviews the traditional criteria of moral status—consciousness, sentience, and autonomy—and discusses them in light of animal ethics, focusing on Peter Singer’s sentientism and Martha Nussbaum’s capability approach. It then evaluates whether AI could possess consciousness by engaging with functionalism, Integrated Information Theory (IIT), and biological naturalism, while assessing the significance of simulated consciousness as manifested in recent generative language models and emotion-recognition robots. To address the limitations of property-based approaches, the paper turns to relational ethics, highlighting how trust, empathy, and responsibility emerging in human–AI interactions may establish grounds for moral consideration. Furthermore, the study analyzes the European Union’s proposal of “electronic personhood” to explore the legal status of AI and its implications for responsibility allocation. In conclusion, this paper argues for the possibility of reconfiguring moral communities beyond anthropocentrism and proposes directions for AI’s ethical design, legal institutionalization, and the distributive structure of moral responsibility.
새한철학회
부산외국어대학교 이재숭
