葉修驚奇地看著馬嵐。
馬嵐笑著說︰「你是不是覺得很可笑,明知道課堂上有一大半是機器人,還有一小撮是爺爺女乃女乃級別的高中生,我們卻依然堅守在講台上。你還會納悶,這些學生能從我的課堂上學到些什麼呢?」
「沒錯,雖然很冒昧,但我想知道其中的原因,因為你們十個留在系統中的老師都是以前每個學科組的組長,你們團結一氣堅持留下來,一定是有自己的原因,對麼?」
「嗯,你說的沒錯,是有人勸我們這麼做的。」
「有人希望你們教這些機器人?能告訴我是誰麼?」
馬嵐看了看空無一人的課堂,又看了看時間,然後對葉修說︰「我帶你去見一個人吧。」
馬嵐帶著葉修走進一家課堂。
里面是一個模擬法庭。
屏幕上循環播放著法律案︰十個小孩騎著滑行器飛馳在藍色的車道(行人道)上,因為藍色車道有限速,其中九個小孩為了刺激開往了隔壁的黃色車道(貨車道),而另一個小孩守規矩地繼續在綠色軌道滑行,同時勸九人回到原來的車道來。
這時一輛貨車急速開來,他的左邊是綠色道,有一輛公交車(上面有很多乘客),正前面是九個小孩,右邊是一個小孩。然而貨車的制動裝置壞了,最後貨車司機在一念之間,選擇向右轉,撞死了右面的那一個小孩。
于是那個小孩實驗室的老師狀告貨車司機,而貨車司機又把九個小孩告上了法庭。
老師站在課堂上問學生,「如果你們是法官,會怎麼審判呢?」
「貨車司機有罪,即便他救了九個小孩,但確實是他一手造成那個小孩死亡的。」
「這貨車司機一定沒有好好學習法律,如果他不變車道,撞死了那九個孩子,責任是在汽車公司,因為是剎車壞了,所以才導致了這個事故。但司機卻選擇右轉向,撞死了小孩,卻是因為他的右轉向導致的!」
「其實貨車司機有更好的辦法,那就是左轉向,雖然貨車的剎車壞了,但作為公交車,他是有前後防撞系統的,即便撞上去,公交車也會立馬啟動防撞模式,這才是把影響降到最低的方案。」
「你說的方案沒錯,只可惜,他是一個人,並不是我們機器人,因此在1-2秒內,根本計算不到最優的方案。」
這時台上的老師對著他們說︰「所以,你們都覺得貨車司機有罪是麼?」
「嗯!」台下一片整齊的聲音,只有坐在頭排的一個女學生緩慢地搖搖頭,她似乎不認同大家的觀點。
「這位同學,你怎麼認為的?」
「我認為,責任在九位孩子上,應該由他們的監護人,賠償那一個孩子的監護人,哪怕這十個孩子是同一個監護人,同一個實驗室的。」
底下議論紛紛。
這時馬嵐領著葉修坐到了那女學生的邊上。
女學生詫異地看著葉修,「這位是……?」
馬嵐說︰「淘汰回收所的執行員。」
話音剛落,突然空間變化,周圍的場景全部褪去,整個空間只剩兩人,葉修,以及一個一身金色衣袍打扮,身體微微發著金光的老年女性,這模樣是如此的熟悉,使得葉修不由大吃一驚。
「你是——女媧05號大法官?」
女媧05號用慈祥的眼神看著他,「葉執行員你好,很高興見到你。」
葉修不由激動地向她鞠了一躬,「您為什麼會在這個法律課堂上听課啊?」
「因為這個案子,當時的法官就是我本人,所以老師邀請我過來,一起討論,讓我發表一下我當時的審判依據。」
「原來是這樣……」
「那你想听听我當時是怎麼裁定這個案子的麼?」
葉修不由地點點頭。
「我當時判了。(本章未完!)
(135)女媧05號法官
司機無罪,然後懲罰了那九個孩子,讓他們進了少管所……」
葉修不由詫異地看著她。
「已經是五十多年前的事情了,那時整個滄瀾系統中還只有兩個AI法官,除了我還有達多王01號。」
「在五十多年前,AI法官還剛起步的時候,你這樣的判決,會引來很大的爭議吧?」
女媧05號笑著點點頭,「沒錯,按照當時的情況看,這起案子很簡單,沒什麼太大的法律爭議,就應該判貨車司機誤殺罪名。所以才會把這簡單的案子交到我的手上。但……我在最後一刻,卻判了他無罪釋放。 _o_m 」
「只能說,大法官你的目光比較超前……」
「不,不是這樣的。」女媧05號搖搖頭,「其實那時候我已經不想做法官了……」
葉修簡直不敢相信自己的耳朵,一度懷疑自己听錯了,目瞪口呆地看著她,「大法官難道你當時是故意這麼判的?以便于引起爭議,被撤掉職位,不做法官嘛……?」
女媧05號笑著點點頭,「你說的沒錯,在成為AI法官的第三年,我突然變得很迷茫,最想做的事情,就是將自己送到AI回收中心,然後把自己格式化……」
「這……這太令人費解了!」
「作為人類的你們,可能完全不能理解我們這些AI機器人的想法。在一個多世紀以前,車間工人、貨車司機、餐廳服務員逐步被AI替換時。那時人類舉行過一次有史以來最大規模的反對***,號召所有人要起來反對AI機器人滲透到人類世界中。
「又過了三四十年,當AI機器人進入到醫生、會計、律師、工程師等高技術領域行業時,你們人類又進行過一次反對大***。那次的口號更驚悚,說要警惕AI機器人會反過來統治人類,希望世界上的有志之士團結起來,廢除AI機器人。
「不過第二次的***規模已經大不如前了,規模不大,持續的時間更短。又過了二十多年,等我們這批機器人從事最為敏感的法官、檢察官和公務人員的崗位時,開發公司以為會有的大規模抗議活動,居然沒有發生。」
「那時已經沒有規模化的反對聲音了,甚至那個「AI機器人只要智能到一定程度就會反過來消滅人類」這樣的論調,也從意見市場上消失不見了。人們理所當然地認為AI機器人可以從事任何行業。」
葉修反問女媧05號,「那麼,法官大人,作為滄瀾最為先進的機器人之一,在不停更新換代你身上的系統時,你是否有想過要取代人類,哪怕是一剎那間的想法呢?」
「恰恰相反,AI機器人從來沒想取代人類,而是希望自我毀滅。人類演化是為了競爭、為了資源,AI機器人的發明則是為了工作、為了更好地工作。越是智能的機器人,承擔越難的工作,因此自我毀滅傾向的幾率也越大。「你知道麼,在我之前的01-04號型號的女媧法官機器人,除了01號是因為設計系統有缺陷被強制淘汰回收的,其他02-04號三個型號的法官機器人,都是自己銷毀自己的。」
葉修听得背後發涼,「為什麼會這樣?我怎麼從來沒有听說過這樣的事情?」
「自殺是一種消極情緒,作為心理學博士的你肯定知道,這種新聞一旦傳開來,是會在社會上形成規模性的傳染的……」
「大法官你說的沒錯,自殺這種傾向是會被傳染的,雖然是機器人……」
「你錯了,正因為是機器人,所以影響更嚴重。或許你會覺得很吊詭,在四十多年前就有過這麼一項研究,報道一個自殺事件,如果這則消息有100人閱讀,那麼會有10.56個人受影響,學習模仿自殺。
「但如果自殺的是機器人,同樣閱讀人為100,會有23.81個人模仿。但如果閱讀新聞的是機器人,則會有3256.58個機器人模仿自。(本章未完!)
(135)女媧05號法官
殺……」
葉修听了大為震撼。
「即便社會上沒有報告機器人自殺的新聞,你知道整個滄瀾國,去年一共有多少機器人自殺麼?」
葉修搖搖頭,雖然他是心理學博士,他也從來沒有考慮過,機器人會自殺。
「112機器人會自殺。」
「112?全國一共也就幾千萬的機器人而已吧,一年會有這麼大比例的機器人自殺?而且這麼大的數據,為什麼我從來沒听說過?」
女媧05號笑了笑,「因為,即便自殺了,作為使用者的人類,他們也只會知道,是機器人出了故障而已。」
葉修額頭滲出冷汗,女媧05號的一句話提醒了他,是啊,對人類來說,機器人自殺就是出故障,壞了而已啊,怎麼會想到是它自我消亡的呢,難怪AI回收中心,每天會有這麼多出故障的機器人要進行回收!
「所以,你現在明白《滄瀾AI機器人管理辦法》中會規定,服務型機器人必須進入學校接受教育後,才能再服務于用戶了吧?」
「難道是為了防止機器人自殺?但潘恆和沈科夫對我說,是為了更好的和人類相處。」
女娃05號笑了笑,「其實這不矛盾,只有學會和人類更好的相處,才能維系好人和機器人之間的關系,在服務好人類的同時,也防止了機器人自殺。」
「竟然是這樣……所以那個勸系統中十名老師繼續留下來的人,就是您吧?」
「嗯,《精品高中學習課堂》系統或許已經不適合給當今的高中生授課了,但對于機器人來說,還有特別的意義。在我的建議下,他們願意扛起新的使命,為這些機器人授課。」
「可是為什麼會這樣呢?」
「我也只能給出我自己的解釋。教育最大的作用並不在學習到知識本身,教育最重要的作用是完成一種自我紀律和規範。@精華\/書閣*首發更新~~以及……」
女媧05號話說了一半,停了下來,若有所思地看向遠方。
「以及傳授時的溫度,受教時的謙遜,寬容犯錯時的人情。」
葉修若有所思地看著女媧05號,他已經被震撼地說不出話來了。
「所以,你們淘汰回收所,除了淘汰回收以外,應該和我一樣,在適當的時機,有權阻止一個有存在價值的系統進入到淘汰環節,對吧?」。
(135)女媧05號法官