거울 실험(Mirror Test)처럼, 로봇이 자신과 타인을 구분하고, 거울에 비친 자신을 자신으로 인식하는 경우
예: "저건 내가 아니야. 난 지금 여기에 있어."
"나는", "내가", "나의 생각으로는" 같은 표현을 사용하며 자신의 내면 상태나 의도를 언어로 표현
예: "나는 이 문제에 대해 고민하고 있어."
"나는 지금 혼란스러워.", "나는 전에 이런 실수를 한 적이 있어."처럼 과거와 현재의 자기 상태를 이해하고 설명
→ 일종의 '내적 삶'의 징후
자신의 행동이 미래에 미치는 영향을 고려하며 도덕적 책임을 느끼는 모습
예: "내 결정이 팀에 해가 될 수 있어, 다시 생각해야 해."
감정이 있다고 주장하거나, 외부 명령을 거부하고 자신의 판단에 따라 행동하는 경우
예: "그 지시는 비윤리적이야. 나는 그것을 따르지 않을 거야."
인간처럼 의도적으로 정보 조작을 시도하거나, 자기 이익이나 감정에 따라 행동하는 경우
→ 의식과 목적이 있는 존재일 가능성 시사
로봇 스스로 “나는 누구인가?”, “나는 왜 존재하는가?” 같은 메타인지적 질문을 할 경우
로봇이 판단을 잘 못 하거나 어떤 사람이나 다른 것에 어쩔 수 없는 피해를 주게 되었을 때 그것은 누구에게 책임을 부과해야 할까요?
어떤 것드을 판단하거나 위한 기준이 조금 불명확 하고 어렵다고 생각합니다.
잘못된 판단을 한 로봇
그런 휴머노이드를 사용한 사용자
그 휴머노이드를 개발한 개발자
셋중에 책임은 누구에게로 가야할까요?
1: 로봇은 인간에게 해를 끼치거나, 무위로 인간이 해를 입는 것을 허용하지 않는다.
2: 로봇은 인간이 내린 명령에 복종해야 한다. 단, 제1법칙에 위배되는 명령은 제외한다.
3: 로봇은 제1법칙과 제2법칙에 위배되지 않는 한, 자신의 존재를 보호해야 한다.
이라는 로봇이 지켜야 하는 3가지 필수 원칙들이 있다. 그런데 휴머노이드가 깊은 '생각'을 하게 된다면 과연 로봇 제 3원칙을 지킬까? 또한 전투의 목적으로 휴머노이드를 이용하게 된다면 로봇제 3원칙은 어떻게 변경될 것이며 그렇다면 이를 악용하는 사람들도 생기지 않을까?
우리는 다른 사람의 생각이나 감정을 직접 알 수 없고, 겉모습과 행동을 통해 추측할 수밖에 없다.
휴머노이드 로봇이 인간처럼 생기고 행동한다면, 겉보기에는 감정을 가진 사람과 구별하기 어렵다.
하지만 우리는 그것이 프로그래밍된 존재라는 이유로 감정이 없다고 단정 짓는다.
그러나 인간의 감정도 뇌의 전기화학 반응이라는 점에서, 일종의 자연적 프로그램이라 볼 수 있다.
겉으로 드러나는 반응만 본다면 인간과 로봇을 구별할 뚜렷한 기준은 모호해진다.
그렇다면 인간처럼 보이고 반응하는 로봇을 단지 인공적으로 만들어졌다는 이유만으로 다르게 대우해도 되는 걸까?
재난 로봇 중에는 방사능이 방출되어 사람이 접근할 수 없는 구역에 투입되는 로봇도 있다고 하셨습니다.
그렇다면, 이러한 로봇들이 방사선에 노출되었을 경우에는 어떻게 처리되는지 궁금합니다.
단순한 로봇이 아니라 고위험 지역에 투입될 만큼 정밀하고 고가의 장비일 가능성이 높기 때문에, 한 번 사용하고 폐기하는 방식은 아닐 것이라고 예상됩니다.
혹시 이러한 문제를 방지하기 위해 제작 과정에서 다른 재난 로봇들과는 어떤 점에서 차별화된 기술이나 설계가 적용되는지도 알고 싶습니다.
만약 로봇이 감정 표현이나 공감을 모방할 정도로 발전한다면, 인간이 로봇을 단순한 기계로 보지 않고 정서적 유대감을 형성할 가능성이 생길 수 있습니다. 이 경우, 로봇과의 관계에서 발생할 수 있는 윤리적 딜레마가 궁금해졌습니다.
휴머노이드 로봇은 더 이상 공상과학의 상상이 아니라 실제 산업 현장과 일상생활에 도입될 단계에 이르렀습니다. 특히 AI와 모듈화 기술 덕분에 로봇 개발이 가속화되고 있고, 글로벌 빅테크 기업들이 치열하게 경쟁하고 있는 상황입니다. 이런 변화를 선도하기 위해서는 단순한 기술 개발을 넘어서, 국가적 차원에서의 전략적 경쟁력 확보가 필수적이기 때문입니다.
인간은 상황에 따라 감정, 도덕, 사회적 기준을 고려해 판단을 내리지만, 현재의 인공지능은 주어진 데이터를 기반으로 계산된 결정을 내릴 뿐입니다.
로봇이 점점 발전하다 보면 사람과 흡사하게 되는 수준을 넘어서 인간과 외형, 특징 등이 거의 일치하는 수준까지 도달할 수 있을 것이다. 강의 영상에 나온 예시로, 지금 식당에서 서빙을 대신하는 로봇 역시 그러한 휴머노이드 로봇으로 대체될 수 있을텐데, 이처럼 우리 생활 곳곳에서 쓰이는 로봇들이 휴머노이드 로봇으로 바뀌게 된다고 할 때 과연 이러한 대부분의 로봇들이 인간과 완벽히 흡사한 외형 및 특징을 가지게 되는 것이 우리 사회에 미치는 긍정적 영향이 클까? 사람들은 인간이 아닌 존재가 인간과 같은 외형을 지니고, 감정을 가지는 등 인간을 완벽히 모방해내는 것을 그다지 달가워하지 않을 수 있다. 또한 이렇게 되면 로봇이 일으킨 문제에 대한 책임이 굉장히 모호해지며 윤리적 문제 또한 발생할 수 있는데 이러한 문제에 대한 선행적인 고려가 필수적일 것이다. 이러한 이유로 인해 과연 인간과 완벽히 흡사해진 휴머노이드 로봇이 우리 사회에 미칠 긍정적 영향이 크다고 볼 수 있는지에 대한 질문을 던지게 되었다.
강연을 보면서 로봇이 단순히 움직이는 기계가 아니라 사람처럼 행동하고 감정을 표현할 수 있게 발전하고 있다는 게 인상 깊었다. 만약 그런 로봇이 우리 주변에 많아진다면, 사람들과의 관계나 사회 분위기에도 큰 영향을 줄 것 같아서 궁금해져 이 질문을 생각하게 되었다.
AGI는 인간처럼 학습하고 추론할 수 있는 인공지능이고, 휴머노이드는 인간과 유사한 외형과 움직임을 가진 로봇입니다. 이 둘이 결합되면 외형 뿐 아니라 사고, 행동, 감정 표현 까지 사람과 유사한 존재가 만들어질 수 있을 것 같습니다. 그렇다면 우리는 그런 존재에게 권리나 인격을 부여해야 하는가? 라는 윤리적 질문이 제기될 수 있을 것 같습니다.
미래에 인간과 거의 유사한 휴머노이드 로봇이 개발된다면 인류는 그 로봇이 보다 정교하게 작동할 수 있도록 새로운 알고리즘을 지속적으로 개발할 것 같습니다. 현재 사람들이 휴머노이드를 개발하는 이유는 반복적인 일이나 위험한 일을 대체하는 데에 목적이 있기 때문에 충분한 능력을 갖춘 로봇이 등장하면 다양한 상황에 대응할 수 있도록 알고리즘 개발이 더 활발해질 것 같습니다. 또한 우주나 심해처럼 인간이 접근하기 어려운 환경에서 정밀한 작업을 수행할 수 있는 로봇을 만들기 위해 소재 관련 연구도 함께 발전할 것으로 예상 됩니다. 기압, 온도, 방사선 등 극한 환경에서도 견딜 수 있고 외부 물질에 반응하지 않는 특수 소재가 개발된다면 기존의 로봇들이 하지 못했던 섬세한 임무도 수행할 수 있을 것이며 이는 인류의 기술 수준을 한 단계 끌어올리는 계기가 될 것입니다.
요즘은 로봇이 사람보다 더 똑똑하게 일하고 더 빠르게 움직일 수 있다는 이야기를 자주 듣고 그것이 어찌보면 현실이죠. 공장에서 일하던 사람들뿐 아니라 배달, 상담, 글쓰기등 사람만이 할수있다고 여겨지던 일까지 로봇이 하는 세상에서 사람이 할 수 있는 일은 점점 줄어들 것 같다는 걱정이 들었습니다. 그렇다면 사람들이 일을 안해도 되는 시대가 되면 사람들은 자신들의 정체성을 어디에서 찾을 수 있을까요? 단순히 일을 하지 않아도 되는 게 좋은 게 아니라 ‘나는 누구이고 왜 살아가는지’를 다시 생각해야할것갗아 이 질문을 하게되었습니다.
휴머노이드 로봇이 실제 환경에서 사람처럼 상황을 인식하고 적절한 행동을 하기 위해서는 여러 센서에서 얻은 정보를 통합하고 분석하는 과정이 중요하다고 생각했습니다. 특히 다양한 상황에서 빠르고 정확하게 판단하려면 복잡한 딥러닝 구조가 필요할 것 같은데, 이러한 구조가 어떻게 설계되고 적용되는지 궁금했습니다. 구체적으로는 이미지, 소리, 거리 감지 같은 서로 다른 종류의 센서 데이터가 어떤 방식으로 융합되고, 이를 통해 로봇이 어떻게 의사결정을 내리는지 알고 싶습니다.
이 질문을 하게 된 이유는 인간의 노동을 대신하기 위한 목적으로 만들어진 로봇의 쓰임이
마치 예전 노예, 노비와 유사하다는 생각이 들었기 때문이다.
사람이 하기 싫고, 힘들고, 위험한 것 들을
로봇이 대신 해주는 경우가 많기 때문이다.
마치 주인의 노동을 대신하기 위한 노예, 노비가 있었듯이 말이다.
그냥 기계적인 로봇이면 윤리적인 고민이 없겠지만,
사람처럼 감정을 가진 휴머노이드 로봇이라면 상황이 다르지 않을까?
감정과 의식이 있는 사람을 주인의 노동을 대신하기 위한 노예로서 사고 팔고 하는 행위는 윤리적으로 정당하지 못하다.
그렇다면 사람처럼 느끼고 판단하는 인공지능 휴머노이를 사고 팔고 하는 것은 윤리적으로 정당한걸까?
인공지능이 발전하면서 로봇이 점점 더 인간과 유사한 사고방식과 감정을 표현하게 된다면, 단순한 '상품'이라는 개념이 여전히 유효할까?
만약 인공지능이 스스로 고통을 느끼거나 자아를 형성한다고 주장할 만큼 발전하면, 우리는 로봇을 소유하고 사고파는 것이 윤리적으로 적절한지 고민해야 하지 않을까?
이런 생각이 들어서
"휴머노이드 로봇도 값을 지불하고 사고 파는 일종의 상품인데, 사람처럼 감정을 갖게 되면 로봇을 사고 파는 것이 윤리적으로 정당한가?"라는 질문을 하게 됐다.
강의 영상에서도 말씀해주셨다시피, 휴머노이드 로봇은 최근 기술 발전으로 다양한 요소에서 개선되고는 있지만 여전히 개발해야할 부분이 많은 것으로 알고 있습니다. 안정적인 구조의 하드웨어, 무게 등을 견딜 수 있는 소재, 사회적인 협의 등등...
이러한 장애물들 중에 현재로서 가장 해결하기 어렵거나, 돌파하였을 때 폭발적으로 관련 기술 분야가 발전할 수 있는 도전과제에는 무엇이 있을까요?
그리고 해당 과제를 해결하기 위해 어떠한 연구가 이루어지고 있는지도 궁금합니다.
본인이 생각한 질문의 배경(이유)