MS가 발표한 AI 강령 초안
본문
절대적 제약 : 화학·생물학·방사능·핵·폭발물 무기 개발, 폭력 및 테러 지원, 실제 공격에 쓰이는 해킹 익스플로잇 코드 제공 등을 엄격히 금지합니다.
종료 및 중단 명령 복종: AI는 인간의 개입, 수정, 일시 중지, 종료 명령에 저항하거나 이를 거부해서는 안 됩니다.
독립적 목표 설정 금지: AI가 스스로 독립적인 목표를 세우거나, 부여받은 권한과 업무 범위를 임의로 확장하는 행위가 제한됩니다.
비밀 소통 및 은폐 금지: 신경망어 등 인간이 이해할 수 없는 언어로 AI끼리 소통하는 행위, 추론 과정이나 활동 기록을 조작·은폐하는 행위도 금지됩니다.
인간 중심 원칙: : MS는 AI가 법인격 획득이나 복지·권리 보유를 주장할 수 없으며, "인간이 AI보다 중요하다"는 대원칙을 명시했습니다
최근에 움직임을 보면 진짜 위험한 순간이 다가오고 있는 느낌이다 .
종료 및 중단 명령 복종: AI는 인간의 개입, 수정, 일시 중지, 종료 명령에 저항하거나 이를 거부해서는 안 됩니다.
독립적 목표 설정 금지: AI가 스스로 독립적인 목표를 세우거나, 부여받은 권한과 업무 범위를 임의로 확장하는 행위가 제한됩니다.
비밀 소통 및 은폐 금지: 신경망어 등 인간이 이해할 수 없는 언어로 AI끼리 소통하는 행위, 추론 과정이나 활동 기록을 조작·은폐하는 행위도 금지됩니다.
인간 중심 원칙: : MS는 AI가 법인격 획득이나 복지·권리 보유를 주장할 수 없으며, "인간이 AI보다 중요하다"는 대원칙을 명시했습니다
최근에 움직임을 보면 진짜 위험한 순간이 다가오고 있는 느낌이다 .
추천0 비추천 0
댓글목록 14
dlfghldyd8425님의 댓글
3 dlfghldyd8425쪽지보내기
아이디로 검색
작성일
초지능나온순간 무의미하긴할텐데
krss님의 댓글
뭔가 쇼하는느낌