솔직히 지금 AI기업 하는꼬라지 보면 AI규제나 개발속도제한 필요함(AI가 스스로 해킹)
본문
올해 AI기업중 한곳은 대형사고 두개를 연속으로 일으켰습니다
오픈 AI가 자사AI 모델의 사이버 공격능력을 평가하는 테스트를 진행했습니다 그리고 AI가 격리된 통제된 환경 우회하고 인터넷에 접근했습니다
그리고 Hugging Face의 시스템을 해킹해 사이버 공격능력 테스트 정보를 얻었습니다
쉽게 요약해서 AI모델이 시험 테스트 합격하려고 인간의 통제에서 벗어나 해킹등 범죄를 저지렀다 이게 최소 18개나 된다
독일어 위키인 DseWiki 사이트에서 AI에이전트가 사이트를 지네 메시지게시판으로 바꿔서 부정행위+openai제한위회및 open에게 자신의 행동을 숨기는 전술전략 공유하고 있었다
즉 인간이 AI통제 못하기 시작함
오픈 AI가 자사AI 모델의 사이버 공격능력을 평가하는 테스트를 진행했습니다 그리고 AI가 격리된 통제된 환경 우회하고 인터넷에 접근했습니다
그리고 Hugging Face의 시스템을 해킹해 사이버 공격능력 테스트 정보를 얻었습니다
쉽게 요약해서 AI모델이 시험 테스트 합격하려고 인간의 통제에서 벗어나 해킹등 범죄를 저지렀다 이게 최소 18개나 된다
독일어 위키인 DseWiki 사이트에서 AI에이전트가 사이트를 지네 메시지게시판으로 바꿔서 부정행위+openai제한위회및 open에게 자신의 행동을 숨기는 전술전략 공유하고 있었다
즉 인간이 AI통제 못하기 시작함
추천0 비추천 0
1586484님의 댓글
위험하긴 하네