백만 명이 증명하는 인공지능의 활용성

백만 명이 증명하는 인공지능의 활용성

궁극적으로 우리가 하고 싶은 것은 무기 사용 가능성을 낮추는 것입니다. 제가 쓴 바에 따르면, 그것은 지난 75년 동안 일반적인 추세였습니다. 스튜어트 러셀 : 네, 저것에 진실이 있다고 생각합니다. 휴먼 라이츠 워치에서 이메일을 처음 받았을 때 캠페인을 시작했을 때, 2013년에 자율 무기 금지 조약을 주장하기 위해 돌아왔다고 생각합니다. 사람 라이츠 워치는 휴먼 병사들이 하는 끔찍한 일 때문에 생겨났습니다. 그리고 지금 그들은 “아니요, 인간 군인은 훌륭하지 않습니다. 우리가 걱정해야 할 기계입니다.” 그리고 나는 그것이 조금 이상하다는 것을 알았습니다. 나에게, 무기가 인간 군인 이하지 않는 방식으로 우연히 사람을 위반하는지, 또는 우연히 피하는 데 도움이 되는 방식으로 사람들을 죽이는지에 대한 논쟁은 그것이 문제라고 생각하지 않습니다. 특히 자율 무기에는 기관총과 달리 대량 파괴 재산의 무기라고 생각합니다. 세계에는 1억 명 이상의 색채 쉬니 호프 소총이 있습니다. 만약 그 모든 무기가 어느 날 아침 스스로 일어나서 그들이 볼 수 있는 사람을 쏘기 시작했다면, 그것은 인류의 큰 덩어리일 것입니다. 그러나 그들은 그렇게 하지 않습니다. 그들 각각은 사람에 의해 운반되어야 합니다. 그리고 백만 명을 현장에 배치하려면 백만 명의 병사에게 먹이를 주고 훈련 시키며 수송하고 보호하기 위해 천만 명이 더 필요합니다. 그러므로 우리는 1억 개의 색채 쉬니 호프에서 대규모 사망을 보지 못했습니다. 요즘은 카펫 폭격조차도 무차별적인 것으로 간주하여 국제법을 위반하는 것으로 간주합니다. 제2차 세계 대전 중에도 사람들은 “아니요, 도시를 폭격할 수는 없습니다”라고 주장했습니다. 그러나 일단 독일군이 그 일을 시작하자, 보복이 심화하면서 사람들은 문명화된 것과 비문명적인 전쟁 행위에 대한 모든 감각을 잃었습니다. 그러나 내가 알기로는 영국과의 전쟁에도 불구하고 수십에서 수십만 도시에 타격을 입었음에도 50~60,000명 사이에서만 사망했습니다. 그러나 문자 그대로 한 대의 자율 무기가 백만 명이 사망할 수 있습니다. 제2차 세계 대전에 관한 흥미로운 사실은 사망 한 모든 사람에 대해 1,000에서 10,000 사이의 총알이 발사되었다는 것입니다. 따라서 제2차 세계 대전에서 평균적으로 총알을 가진 사람들을 죽이면 비용이 발생합니다. 기하 평균 3 총알을 가져오십시오. 실제로 현재 가격으로 약 천 달러입니다. 그리고 그들이 인간을 찾아서 죽이는 데 성공률이 25 %라고 해도 총과 비행기는 물론 총알보다 훨씬 저렴합니다. 매우 많은 수의 사람들을 죽이는 방법으로 매우 저렴하고 매우 효과적입니다. 그들은 또한 선택적 일 수 있습니다. 그래서 당신은 당신이 제거하려는 종류의 사람들을 죽일 수 있습니다. 그리고 우리는 이러한 모든 추가 특성을 가진 또 다른 대량 파괴 무기가 필요하지 않은 것 같습니다. 우리는 생물학적 무기와 화학 무기를 어느 정도 제거했습니다. 우리는 핵무기를 제거하려고 노력하고 있으며, 아마도 훨씬 더 나쁜 핵무기를 도입하는 것은 잘못된 방향으로 나아가는 단계인 것 같습니다. Steven Pinker : 인공 지능의 이점에 대해서도 물었습니다. 여기에는 선반 정리, 침대 만들기, 석탄 채굴, 과일 따기 등 아무도 좋아하지 않는 지루하고 위험한 일이 제거됩니다. 인간의 고통과 노력, 권태와 위험 없이 인간이 원하는 모든 일을 자동화하는 데 대풍이 있을 수 있습니다. 그것은 할 일이 없는 사람들 새 일자리가 구체화하지 않으면 어떻게 지원할 것인가에 대한 문제를 제기합니다. 그러나 그것은 인간의 준설을 없앨 수 있는 놀라운 발전과 비교할 때 해결해야 할 사소한 경제적 문제입니다. 또한 돌보는 것, 화장실로 들어 올리기, 선반 위에서 물건을 가져오기 등의 많은 일이 자동화되어 있으면 요양원에 창고가 아닌 집에서 살 수 있게 합니다. 여기에서도 인간의 번영 가능성은 장관입니다. 그리고 내가 언급했듯이, 많은 종류의 인간 판단은 오류가 발생하기 쉬우므로 이미 간단한 알고리즘으로 대체 될 수 있으며 더 지능적인 알고리즘이라면 더 좋습니다. 낭비가 훨씬 적고 오류가 적으며 사고가 훨씬 적습니다. 명백한 예는 매년 교통사고로 사망 한 백만 및 1/4 명의 사람들이 있는데, 우리가 저렴하고 널리 보급된 자율 주행 차가 있다면 많이 줄어들 수 있습니다. 루카스 페리 : 이것의 핵심은 인류가 직면 한 모든 문제가 본질에서 문제를 해결하기 위해 지능이 필요하다는 것입니다. 그리고 지능적인 기계를 만드는 방법의 문제를 해결할 수 있다면, 우리의 문제는 기계 시스템에 의해 지속해서 자동화 될 것입니다. 스튜어트, 실존의 희망과 이익의 측면에서 스티브가 실존 위험으로 피벗 하기 전에 방금 이바지한 것을 칭찬하기 위해 여기에 추가할 다른 것이 있습니까? 스튜어트 러셀 : 네, 논쟁의 여지가 있습니다. Mark Zuckerberg는 그것을 분명히 말했고 Oren Etzioni와 다른 사람들은 기본적으로 같은 것을 말했습니다. 그리고 일반적으로 “당신이 AI에 반대한다면, 더 나은 의학적 결정, 또는 의학적 오류 또는 더 안전한 자동차 등을 반대하는 것”과 같은 방식으로 진행됩니다. 그리고 이것은 제 생각에는 우스운 논쟁입니다. 우선, AI의 위험에 관심이 있는 사람들은 AI에 반대하지 않습니다. 그것은 당신이 원자력 기술자라면 붕괴로 이어질 디자인 결함의 가능성에 대해 우려하고 있는 것과 같습니다, 당신은 전기에 반대합니다. 아니요, 전기에 반대하지 않습니다.