뇌 과학자들의 연봉과 복지

뇌 과학자들의 연봉과 복지

물론 실제 세계에서는 모든 규칙을 알지 못하므로 많은 것을 배워야합니다. Go 보드의 또 다른 점은 우리가 그것을 실제로 복잡하다고 생각 함에도 불구하고 실제 세계에 비해 매우 간단하다는 것입니다. Go 보드에는 언제든지 수백 건의 법적 이동이 있으며 게임은 수백 이동 동안 지속됩니다. 그리고 당신이 말하면, 실세계에서 인간에 대한 유사한 원시 행동은 무엇입니까? 우리는 600 개의 근육을 가지고 있으며 초당 약 10 번씩 움직일 수 있습니다. 당신의 뇌는 아마도 그렇게 할 수 없지만, 물리적으로 그것이 당신의 행동 공간이 될 수  는 것입니다. 실제로 작업 공간이 훨씬 더 넓습니다. 그리고 당신도 얘기하고 있습니다.  리는 종종 수년간 지속되는 계획을 세우는데, 이것은 말 그대로 근육 작동 측면에서 수조의 원시 행동입니다. 이제 우리는 그것들을 모두 상세하게 계획하지는 않지만 그러한 종류의 시간 척도에서 작동합니다. 이것들은 Go와 실제 세계가 다른 몇 가지 방법입니다. 우리가 인공지능에서 하는 것은 우리가 말을 하지 않는 것입니다. 저는 Go를 했습니다. 이제 자살 Go를 할 것입니다. 우리가 하려는 것은 일반적인 교훈을 추출하는 것입니다. 자, 이제 우리는 전체 클래스의 문제를 처리하는 방법을 상당히 잘 이해했습니다. 문제의 본질에 대한 기본 질적 가정 인 가정을 완화 할 수 있습니까? 그리고 내가 열거 한 모든 것, 그리고 아마도 내가 가진 것보다 더 많은 것을 편하게 한다면, 당신은 모든 것을 다루는 방법을 알아낸다고 가정 할 때 현실 세계에서 초인간적 수준에서 작동 할 수 있는 시스템을 향해 가고 있습니다. 그 문제. 그래서 우리가 AI 시스템이 Go Board에서 수행하는 움직임에 의해 우리 자신이 혼란스러워하는 것처럼, 당신이 장군이라면, 당신은 통제하거나 다른 의사 결정 계획을 세우는 AI 시스템에 반대합니다. 측면에서, 당신은 당신이 시도하는 모든 것을 독창적이라고 생각할 수도 있습니다. 기계는 이미 계획이 성공하지 못하도록 예상하고 준비했습니다. 전쟁의 속도는 인간이 생각한 것 이상일 것입니다. 따라서 이라크는 1 차 걸프전에서 미군의 의사 결정 속도에 익숙하지 않아서 아무것도 할 수 없었던 것처럼 생각할 시간조차 없었습니다. 그들은 문자 그대로 마비되었으며, 연합군이 작전을 펼친 시간 내에 대응할 수 없었기 때문에 연합군이 단계적으로 단절 할 수 있었습니다. 당신이 인간 장군이라면 이런 식일 것입니다. 만약 당신이 인간 CEO이고 경쟁 업체가 AI 시스템에 의해 조직되고 운영된다면, 당신은 같은 상황에 처하게 될 것입니다. 완전히 상상할 수 있습니다. 필연적으로 그럴듯한 말은 아니지만 전반적으로 인간의 능력을 능가하는 실제 의사 결정 기능을 만들 수 있다고 생각합니다. 이런 일반성의 개념은 여전히 ​​해결해야 할 문제라고 생각합니다. 사람들이 일반적으로 정의하는 대부분의 정의는“글쎄요, 인간은 인간이 할 수 있는 모든 일을 할 수 있기 때문에 일반적입니다. 그럼에도 불구하고 의사, 목수, 광고, 영업, 담당자, 따라서 현재 AI 시스템에 비해 매우 유연합니다. 일반성을 달성하는 데는 진전이 있지만 갈 길이 멀다. 나는 지성적인 인공 지능이 임박했다고 우리가 걱정할 필요가 있다고 말하는 사람들 중 어느 것도 아니다. 그리고 사실, 나는 더 보수적 일 것입니다. 대부분의 전문 AI 사람들이 생각하는 것에 호소하려면 대부분의 전문 AI 사람들은 우리보다 훨씬 더 지능적인 AI라고 합리적으로 묘사 할 것이라고 생각합니다. 그래서 대부분의 사람들은 한 세기 중반에 생각합니다. 특히 중국의 아시아 AI 연구자들은 더 낙관적이라고 생각합니다. 그래서 그들은 20 년이라고 생각합니다. 미국과 유럽의 사람들은 40 년 이상일 수 있습니다. 나는 이 세기 말까지 합리적으로 말할 것입니다. 나는 Nick이 거의 같은 장소에 있다고 생각합니다. 그는 또한 일반 전문가 AI 연구원보다 보수적입니다. 중요한 돌파구가 생겨나 고 있지만 막대한 투자가 이루어지고, 똑똑한 사람들이 현장에 유입되면, 이러한 훌륭한 상황적인 무기로 사용되는 돌파구는 아마도 일어날 것으로 예상되지만 사실 이런 상황에 있어서 정확하게 작동하는 시간표는 말하기가 매우 어렵습니다. 그리고 우리가 위험에 대해 생각할 때, 스티브는 진짜 정말로 한 명의 을 하나씩 쫓아내고 넘어뜨립니다. 예를 들어, 클립 논거는 Nick Bostrom이 인류를 끝내기위한 가장 가능성 있는 방법 중 하나라고 생각하는 시나리오가 절대로 아닙니다. 그것은 요점을 설명하기위한 몹시 훌륭한 철학적 사고 실험입니다. 그리고 요점은 논란의 여지가 없으며 Steve는 이에 동의하지 않는다고 생각합니다. 여기에서 스티브가 지능이라는 단어를 사용하여 항상 잘 작동한다고 아니 이게 생각하는 방식으로 행동한다고 ​​생각하기 때문에 지능이라는 단어를 사용하지 마십시오. 물론, 지능을 그런 식으로 정의하면 문제가 없습니다. 문제는 어떻게 그런 것을 만들어 내는가하는 것입니다. 그리고 지금 우리가 그러한 것을 만드는 방법은 표준 모델에 해당합니다. 앞에서 설정했던 것을 설명했습니다. 슈퍼 최적화 프로그램이라고 부르고 목표를 설정해 봅시다. 그리고 꺼집니다. 그리고 그는 최적화 당신이 슈퍼에게 잘못된 목표를 줄 때 일어나는 일을 설명합니다. "그렇습니다. 물론 우리는 잘못된 목표를 제시해야합니다."