지금까지 달라진 점은 무엇인가

지금까지 달라진 점은 무엇인가

슬레이트는 현재 "미래 시제" 라고 하는 기능을 실행하고 있는데, 이는 "미래의 시민을 위한 안내서" 라고 주장합니다. 그러나 최근의 두 기사는 AI 안전성과 연구자들에 대한 부정확성으로 가득합니다. 이는 실망스럽지만 AI 안전 연구가 필요한 이유에 대한 오해를 해결할 수 있는 좋은 기회이기도 합니다. 첫 번째로 논박된 기사는 Michael의 인공지능 진화로, 인공지능의 진화와 관련된 문제에 대한 이해가 부족합니다. 아담 엘의 두 번째 방법인 어떻게 좋게 하는지는 안전한 AI를 올바르게 개발하는 것에 대한 우려를 가지게 되었지만 그 과정에서 오늘날의 가장 유명한 AI 안전 연구원 중 한 명과 과학 연구에 크게 해를 끼쳤다. 우리는 AI가 안전하게 진화 할 것인지 모른다. 그의 기사에서 크로스는 AI 안전에 대해 걱정하는 연구원들의 간섭 없이 인공 지능을 진화시키는 아이디어를 방어합니다. 크로스는 먼저 Nick 보스의 저서 인 슈퍼 인텔리의 예를 고려합니다. 슈퍼 인텔리는 초 지능 시스템이 바람직하지 않은 제품으로 지구를 타일하여 모든 생물학적 생명을 제거 할 수 있습니다. 크로스는 “지능적인 지성이 인류를 파괴하는 기술을 발명하기 위해서는 시간과 자원이 필요하기 때문에 불가능하다” 고 주장했다. 물론 그렇습니다. 문제는 우리보다 똑똑한 초 지능 시스템이 우리가 무엇을 했는지 깨닫지 않고도 그러한 목표를 달성 할 수 있다는 것입니다. 어떻게? 우리는 모른다. 이것이 바로 AI 안전을 연구하는 것이 중요한 이유 중 하나입니다. 그것은 초 지능 시스템이 것이 꽤  가능성이 있지만 그런 위업을 시도하지만 그 순간에, 아무도 그것을 보장 할 수 있습니다. 우리는 아직 초 지능형 인공 지능이 어떻게 행동 할지 모른다. 슈퍼 인텔리 시스템이 인간처럼 "생각" 할 것으로 기대할 이유는 없지만, 어떻게 든 고급 AI가 무엇을 할지 예상해야합니다. 우리는 고급 AI 시스템이 인간의 삶과 호환 될 수 있기를 희망 할 수는 없습니다. 호환성을 보장하기 위해 지금 연구를 해야 합니다. 크로스는 다음 슈퍼 인텔리 AI가 일부 바람직하지 않은 목적으로 하지 타일 지구는 하지 않을 것이기 때문에 그 주장을 계속 하고자 합니다. “AI가 감정을 가질 때까지는 인류의 이익에 대항하여 행동하고 인간의 저항에 맞서 싸우는 것 외에는 아무것도 하고 싶지 않을 것입니다. 원하는 것은 모든 종류의 독립적 행동에 필수적입니다.” 이것은 잘못 배치 된 의인화와 프로그래밍 목표에 대한 오해를 나타냅니다. AI 가 원하는 것은 AI 가 프로그래밍 한 것에 달려 있습니다. Microsoft Office에서는 철자가 올바른 철자를 원하지 않지만 철자가 틀린 단어는 모두 프로그래밍 되어 있으므로 철자가 잘못 표시됩니다. 그리고 이것은 고급 초 지능형 시스템이 아닌 소프트웨어일 뿐이며, 훨씬 더 복잡 할 것입니다. 로봇이 경로를 따라 목적지에 도달하는 작업을 받았지만 경로에 고정하는 것보다 목적지에 도달하는 것이 더 중요하다는 것을 인식하도록 프로그래밍 된 경우 장해물 달성하기 위해 다른 경로를 찾습니다. 주요 목표. 목적지에 도달하는 데 감정적 인 애착이 있기 때문이 아니라 프로그래밍 방식입니다. 알파고 세계 최고의 가는 플레이어를 이기고 싶지 않습니다. 에서이기도록 프로그램 되었습니다. 어떤 목표를 달성 하고자 하는 시스템의 예제 목록은 계속 진행될 수 있으며 시스템의 느낌과는 아무런 관련이 없습니다. 크로스는 “AI 가 원하는 순간 무엇이든, 그것은 나쁜 행동에 대한 우리의 처벌을 포함하여 보상과 처벌로 우주에 살 것입니다. 인간이 지배하는 세상에서 살아남기 위해서는 초기 AI가 어떤 것이 옳고 다른 것이 옳다는 인간과 같은 도덕 감각을 발전시켜야 할 것입니다.” 우리가 원하는 것을 하고 있는 동안 우리가 그것을 깨닫지 않고 완전히 다른 무언가를 하고 있다고 생각하도록 속이는 것이 현명하지 않다면. 모든 어린이는 곤경에 빠지지 않는 가장 좋은 방법 중 하나가 잡히지 않는 것임을 알고 있습니다. 왜 우리는 초 지능 시스템이 같은 교훈을 배울 수 없다고 생각할까요? 형벌은 단지 그것을 적대감을 주거나 우리를 속이도록 가르칠 수 있습니다. 또한 초 지능형 에이전트가 그 영향을 이해하기에는 너무 복잡한 일종의 행동에 참여할 가능성이 있습니다. 그런 다음이 논문은 초 지능형 시스템이 생물학적 실체가 무언가를 원하는 방식으로 무언가를 원한다면 전자 장치로만 만들 수는 없다고 생각합니다. 그 이유는 인간이 본질적으로 생화학 물질이기 때문에, 우리가 인간의 요구와 요구를 가진 초 지능 시스템을 만들고자한다면, 그 시스템은 유사한 것들로 이루어져야한다는 것입니다. 특히 크로스는 “감각이 있는 시스템을 얻으려면 감각이 가치 있게 된 진화 과정을 되풀이해야합니다.”라고 말합니다. 첫째, 왜 감각을 대체 왜 보이는 초 지능 시스템이 필요한지, 그리고 고급 AI의 목표가 되어야 할 이유가 있는지는 확실하지 않습니다. 크로스는 이것이 시스템이 도덕적으로 진화 할 수 있는 유일한 방법이기 때문에 이것이 필요하다고 주장하지만, 그의 주장은 시스템이 초 지능적으로 되기 위해서는 인간과 같아야한다는 생각에 국한된 것으로 보인다. 그러나 비행기와 조류의 비유를 고려하십시오. 비행기는 본질적으로 전자의 생화학이 아니 이게 그니까 그게 아니라 아닌 전자 및 금속이지만, 어떤 새보다 더 높고, 더 빠르고, 더 길고, 멀리 날아갈 수 있습니다.