인공지능과 초지능의 차이점

많은 토론에서 “초 지능”이라는 단어를 “매직” 또는 “기적”로 대체 할 수 있으며 문장은 동일하게 읽습니다. 실리콘으로 뇌를 복제하거나 중동 전쟁과 같은 문제를 해결하거나 암을 치료할 수 있는 AI 시스템에 대해 읽습니다. 그것은 단지 솔루션의 가능성을 상상하고 정보를 구성 할 수 있는 능력이 무엇인지, 또는 지능이 무엇을 구성하는지 또는 문제에 대한 솔루션으로 계산할 수 있는 것이 아니라고 가정 할 수 있다고 가정합니다. 그래서 저는 초 지능이라는 개념 자체가 인간에서 동물로, 또는 그렇게 밝지 않은 인간에서 스마트로 인간처럼 타의 추종을 불허하는 연속체의 모호한 외삽법을 발견했습니다. 나는 다람쥐나 문어를 인간과 비교하고 “글쎄요, 그 이상을 상상해보십시오”라고 말하는 “지능” 이라는 힘이 없다고 생각합니다. 또한 존재 위험 시나리오에 대해 회의적입니다. 그들은 두 가지 종류가 있습니다. 하나는 강력한 의지라는 개념에 기반을 두고 있습니다. 지능적인 시스템을 확보하자마자 지배하고 착취하기를 원할 것입니다. 종종 우리가 인간보다 동물이 더 똑똑하기 때문에 인간이 동물을 착취하고 종종 소멸한다는 비유가 종종 우리보다 더 똑똑한 인공 시스템이 생기면 우리가 할 일을 할 것입니다. 또는 유럽 식민지 주민과 정복자들과 같은 기술적으로 진보 된 문명은 원주민들을 정복하고 때로는 소멸 시켰습니다. 그래서 그것은 AI 시스템이 우리에게 할 수 있는 일입니다. 이것이이 시나리오의 한 가지 다양성입니다. 우리는 하나의 종인 호모 사피엔스가 부족한 자원을 포착하고 경쟁하기 위해 상대적인 성공에 의해 주도되는 경쟁 과정 인 자연 선택을 통해 생겨났기 때문에 시나리오가 지능과 지배력을 혼동한다고 생각합니다. 상대적인 생식 성공의 목표와 궁극적으로 친구. 그러나 목표를 추구하도록 설계된 시스템이 목표, 지배권을 가질 이유가 없습니다. 이것은 목표를 달성하는 능력이 목표와는 다르다는 이전의 논의로 되돌아갑니다. 자연 선택의 제품에서 목표는 생식 경쟁에서 승리 한 것입니다. 우리가 디자인 한 인공물에 대해서는 그럴만한 이유가 없습니다. 이것은 실존 적 위험에 대한 논의에서 직교성이론 이라고도 하지만, 이는 우리의 목표와 지능 사이의' 구별을 언급하는 환상적 방법입니다. “지능형 시스템이 자체 생존성을 극대화 할 필요는 없습니다. X의 목표가 주어진다면 X가 존재하지 않으면 X를 달성 할 수 없기 때문입니다. X를 달성하기위한 소책자로서, 모든 비용으로 자신의 생존을 극대화해야합니다.” 나는 그것이 잘못이라고 생각합니다. 모든 복잡한 시스템이 자신의 영속성을 향해 작동해야한다는 것은 사실이 아닙니다. 내 핸드폰은 화장실에 떨어뜨리거나 전원이 떨어지지 않도록 조치를 취하지 않습니다. 아이가 소리를 지르고 울고, 힘 수준이 낮아짐에 따라 지시받은 것을 거부하는 것처럼 프로그램 될 수 있는지 상상할 수 있습니다. 우리는 하나를 사지 않을 것입니다. 그리고 우리는 자연계에서 다른 목표를 위해 자신의 존재를 희생하는 많은 살아있는 시스템이 있다는 것을 알고 있습니다. 벌이 당신을 찌르면, 벌이 빠져 나와 벌을 죽일 때 가시 찌르는 소리가 사라지지만, 벌 자체가 아니라 식민지의 생존성을 극대화하도록 프로그램 되어 있기 때문에 기꺼이 스스로 희생합니다. 따라서 지능 시스템이 자체의 힘 또는 생존성을 극대화해야한다는 것은 사실이 아닙니다. 그러나보다 일반적인 존재 위협 시나리오는 권력에 대한 의지가 아니라 담보 피해입니다. 만약 AI 시스템에 단일 목표가 주어지면, 우리에게 해를 포함하여 부작용을 고려하지 않고 끊임없이 추구한다면 어떻게 될까요? 원래이라고 생각했지만 AI 시스템에 가능한 한 많은 클립을 만들라는 목표를 부여하는 것과 같은 진지한 예가 있습니다. 따라서 가능한 모든 문제를 우리 몸을 포함하여 클립으로 변환합니다. 사실을 제외하고 우리는 이미 가지고 있는 것보다 더 효율적인 클립 제조가 필요하지 않으며, 인체는 클립을 위한 아주 지루한 철분 공급원입니다. AI 시스템에 암 치료의 목표를 부여 할 수 있다는 생각은 별로 타당하지 않습니다. 따라서 우리는 비자발적 기니피그로 징집하고 우리 모두에게 종양을 유발할 것입니다. 댐 뒤에 물을 뿌리면 마을을 익사시키지 않는 목표가 없었기 때문에 마을에 홍수가 날 수 있습니다. 이러한 시나리오의 문제점은 자체 반박이라는 것입니다. 그들은 "지능형"인공물이 단일 을 구현하도록 설계되었다고 가정합니다. 우리가 살고 있는 어리석은 인공물조차 사실이 아닙니다. 우리가 자동차를 디자인 할 때, 우리는 가능한 한 빨리 A에서 B로 가는 목표를 주지 않습니다. 또한 브레이크와 휠, 머플러 및 촉매 변환기를 설치합니다. 이러한 시나리오의 많은 부분은 설계자 측의 관용구, 전 지구의 인프라에 대한 시스템 제어를 먼저 수행하지 않고 시스템 작동 방식을 확인하기 위해 시스템 제어를 제공하는 관용구와 지능이 주장되는 측의 관용구를 모두 전제하는 것처럼 보입니다. 시스템은 다른 모든 효과와 상관없이 단일 목표를 추구합니다. 지능적이라고 주장하는 것은 물론 인간의 인공물에는 존재하지 않습니다. AI 시스템에 한마디로 표현 된 스케치 목표를 주면 나는 인터뷰에서 그가 말했을 때 잘 지적한 스튜어트 자신을 인용했습니다. 그들은 단지 다리를 건축이라고 부릅니다.” 마찬가지로, 그와 같은 오를 피하는 AI는 AI 일 뿐이며 추가적인 보호 장치가있는 AI는 아닙니다. 그것이 지능으로 구성되는 것입니다. 한 가지 다른 의견을 드리겠습니다.

저작자표시 (새창열림)