亚洲AV无码专区在线电影APP,国产嘿嘿嘿视频在线观看,国产在线线精品宅男网址,四虎永久在线精品免费青青

【獵云網(wǎng)（微信號(hào)：ilieyun）】2月11日?qǐng)?bào)道（編譯：何棄療）

編者注：本文的作者Linda Kinstler是Protocol的特約編輯。她的特寫(xiě)出現(xiàn)在《連線》、《商業(yè)周刊》、《衛(wèi)報(bào)》、《1843年》等雜志上。她曾是《政治歐洲》的特約編輯和《新共和》的執(zhí)行主編。

企業(yè)在他們的工作流程中加入了倫理思考，但是倫理的結(jié)局是可選的。

在Salesforce Tower的52層樓下，我在一間鑲玻璃的會(huì)議室里見(jiàn)到了Paula Goldman。會(huì)議室掛著一個(gè)拼布彩旗橫幅，上面清楚地寫(xiě)著“平等辦公（EQUALITY OFFICE）”。

Goldman在普林斯頓大學(xué)獲得了碩士學(xué)位，在哈佛大學(xué)獲得了博士學(xué)位，在博士期間她研究的問(wèn)題是關(guān)于那些有爭(zhēng)議的想法是如何成為主流的。一年多前，她來(lái)到了Salesforce公司，出任該公司有史以來(lái)第一位首席倫理及人性化使用官（Chief Ethical and Humane Use Officer），這是一個(gè)前所未有的、定義含糊不清的職位，主要的工作是：確保Salesforce能讓世界變得更好，而不是更糟。

Goldman表示：“我認(rèn)為我們正處在這個(gè)行業(yè)的轉(zhuǎn)折點(diǎn)上，我覺(jué)得科技行業(yè)在80年代也有過(guò)類(lèi)似的經(jīng)歷，當(dāng)時(shí)的網(wǎng)絡(luò)安全系統(tǒng)突然出現(xiàn)了病毒，人們需要一種全新的思考問(wèn)題及處理問(wèn)題的方法。在那之后，行業(yè)發(fā)展不斷地壯大。而現(xiàn)在，這只是標(biāo)準(zhǔn)協(xié)議。如果不確保主要產(chǎn)品擁有正確的安全保護(hù)措施，你就無(wú)法交付產(chǎn)品。”

她表示：“我認(rèn)為，我們?cè)趥惱矸矫嬉蔡幱陬?lèi)似的時(shí)刻。它不僅需要一套工具來(lái)完成工作，還需要一套規(guī)范，這一點(diǎn)很重要。那么，你是如何衡量這些標(biāo)準(zhǔn)呢？”

我問(wèn)她這些規(guī)范最初是如何決定的。

“從某種意義上說(shuō)，這是一個(gè)價(jià)值數(shù)十億美元的問(wèn)題，”她說(shuō)，“所有這些問(wèn)題都是極其復(fù)雜的，只有極少數(shù)問(wèn)題的答案是絕對(duì)清楚的。對(duì)嗎？很多東西都可以歸結(jié)為，在你的微積分中，你認(rèn)為哪些值是最高的？”

在劍橋分析丑聞、員工罷工以及其他政治和隱私事件之后，科技公司面臨著一系列的監(jiān)管。他們不斷地雇傭來(lái)自數(shù)據(jù)與社會(huì)研究所（Data&Society Research Institute）被稱(chēng)為“倫理所有者（ethics owners）”的研究人員，這些人負(fù)責(zé)以實(shí)用且可被證明的方式展開(kāi)與倫理相關(guān)的辯論。

在Salesforce員工抗議該公司參與特朗普政府的移民工作之后，Salesforce從Omidyar Network那把Goldman挖到自己麾下，這也是該公司長(zhǎng)達(dá)七個(gè)月的危機(jī)管理工作的一個(gè)高潮。其他的科技公司為了應(yīng)對(duì)各自的危機(jī)和擔(dān)憂，也紛紛聘請(qǐng)了一小批類(lèi)似的專(zhuān)業(yè)人士——哲學(xué)家、政策專(zhuān)家、語(yǔ)言學(xué)家和藝術(shù)家——所有這些都是為了確保讓他們不作惡的承諾有與之相匹配的行動(dòng)。

那后來(lái)發(fā)生了什么？

盡管一些科技公司已經(jīng)采取了具體措施，將倫理思考融入他們的流程，但倫理咨詢(xún)公司Doteveryone的臨時(shí)首席執(zhí)行官Catherine Miller表示，圍繞這一主題也出現(xiàn)了很多“搖擺不定”的情況。

批評(píng)人士認(rèn)為這是一種“倫理洗禮（ethics-washing）”，即為了避開(kāi)政府監(jiān)管和媒體批評(píng)而向倫理價(jià)值觀低頭的行為。這個(gè)詞是越來(lái)越多的科技倫理詞匯集合中的一個(gè)，簡(jiǎn)稱(chēng)“tethics”，最初是電視節(jié)目Silicon Valley中的諷刺用語(yǔ)，但后來(lái)偶爾也被媒體認(rèn)真地使用。

圣塔克拉拉大學(xué)（Santa Clara University）馬庫(kù)拉應(yīng)用倫理學(xué)中心（Markkula Center for Applied Ethics）的技術(shù)哲學(xué)家Shannon Vallor說(shuō)：“如果你不把這些東西應(yīng)用到實(shí)際的操作中，或者應(yīng)用到你的激勵(lì)機(jī)制中，如果你沒(méi)有審查流程，那么，它就變成了倫理的蒸氣。這是你承諾過(guò)并打算兌現(xiàn)的東西，但它從未真正實(shí)現(xiàn)。”

聲名狼藉的谷歌成立了一個(gè)人工智能委員會(huì)，然后在員工抗議加入反LGBTQ倡導(dǎo)會(huì)之后，于去年4月解散了這個(gè)委員會(huì)。如今，谷歌對(duì)倫理的態(tài)度包括使用旨在解釋其人工智能的“模型卡（Model Cards）”。

“那不是什么有實(shí)質(zhì)性用處的東西，”Enigma的數(shù)據(jù)倫理學(xué)家、丹佛大學(xué)的哲學(xué)教授Michael Brent說(shuō)?！斑@就像是一張非常漂亮的卡片?！?br>

科技公司們已經(jīng)做出了更實(shí)質(zhì)性的努力：Vallor剛剛在谷歌出了一次差，在那里她向工程師講授了倫理問(wèn)題，并幫助該公司實(shí)施產(chǎn)品開(kāi)發(fā)的治理結(jié)構(gòu)。Vallor告訴我：“當(dāng)我在組織環(huán)境中談?wù)搨惱頃r(shí)，我經(jīng)常采用的方式是，幫助人們和組織履行對(duì)他人的責(zé)任，教會(huì)他們一些倫理知識(shí)和倫理技能?！?br>

超過(guò)100名谷歌員工參加了在Markkula中心開(kāi)展的倫理培訓(xùn)。該公司還開(kāi)發(fā)了一個(gè)公平模塊，作為其機(jī)器學(xué)習(xí)速成課程的一部分，并在每季度更新其“最佳人工智能實(shí)踐”清單。Vallor說(shuō)：“這些公司的絕大多數(shù)員工都希望生產(chǎn)出對(duì)人們有益的產(chǎn)品。他們真的不想破壞民主，也不想對(duì)人類(lèi)福祉造成威脅，更不想減少人們對(duì)社會(huì)現(xiàn)實(shí)的了解和認(rèn)識(shí)。他們想做出讓自己引以為傲的東西。所以我要盡我所能來(lái)幫助他們實(shí)現(xiàn)這個(gè)目標(biāo)。”

Vallor工作的Markkula中心是以“默默無(wú)聞”的蘋(píng)果聯(lián)合創(chuàng)始人Mike Markkula Jr.的名字命名的。1986年，Mike Markkula Jr.給了該中心一筆啟動(dòng)資金，就像他當(dāng)初向年輕的Steve Jobs提供了一筆啟動(dòng)資金一樣。他從不希望自己的名字出現(xiàn)在大樓上，他希望這筆錢(qián)就像是一個(gè)驚喜，一種對(duì)母校的感恩。

Markkula已經(jīng)從Woodside一處豪華宅邸里搬了出來(lái)，過(guò)著平靜的生活。如今，他和他創(chuàng)辦的公司也已經(jīng)沒(méi)有太多聯(lián)系，“只有當(dāng)我的電腦出了問(wèn)題時(shí)，我才會(huì)叫人來(lái)幫忙，”他告訴我。但是，早在80年代中期，當(dāng)他和女兒一起來(lái)到圣克拉拉大學(xué)校園參加新生培訓(xùn)時(shí)，他是蘋(píng)果公司的董事長(zhǎng)，他對(duì)硅谷的現(xiàn)狀感到擔(dān)憂。他說(shuō)：“我和Linda（他的妻子）都很清楚，有相當(dāng)多處于決策崗位的人根本就沒(méi)有倫理意識(shí)。這并不是說(shuō)他們不道德，他們只是沒(méi)有任何與倫理相關(guān)的工具可以使用。”

在蘋(píng)果，他花了一年時(shí)間起草公司的“蘋(píng)果價(jià)值觀”，并撰寫(xiě)了該公司著名的營(yíng)銷(xiāo)理念（“移情、專(zhuān)注、灌輸”）。他說(shuō)，在創(chuàng)業(yè)之初，有很多時(shí)候，他不得不做出艱難的倫理抉擇，但“幸運(yùn)的是，我是管理公司的人，所以我可以做任何我想做的事情?！?br>

他說(shuō)：“如果在今天，我還要管理蘋(píng)果、管理谷歌，我想我會(huì)需要耗費(fèi)大量的時(shí)間。我在很多事情的處理上會(huì)和之前完全不同，其中一些與哲學(xué)、倫理有關(guān)，有些則與20年后我們對(duì)世界的看法有關(guān)?！?br>

Markkula應(yīng)用倫理中心是技術(shù)倫理覺(jué)醒浪潮中最重要的聲音之一。在其網(wǎng)站上，它提供了一份關(guān)于技術(shù)倫理的匯編，包括一個(gè)工具包，一個(gè)“最佳倫理實(shí)踐”列表以及一個(gè)應(yīng)用程序。

這些工具中的每一個(gè)都試圖以一種工程師們能夠快速理解和實(shí)施的方式，來(lái)將倫理哲學(xué)的基本原則付諸實(shí)踐。但Markkula中心的執(zhí)行主任Don Heider很快就承認(rèn)，“這是一場(chǎng)艱難的斗爭(zhēng)。”他說(shuō)：“我得說(shuō)，普通員工對(duì)它的態(tài)度比高管更開(kāi)放?！?br>

即使在Salesforce，像Yoav Schlesinger（該公司負(fù)責(zé)人工智能倫理實(shí)踐的領(lǐng)導(dǎo)人）這樣的實(shí)踐者也擔(dān)心這會(huì)對(duì)他們的團(tuán)隊(duì)征收“倫理稅”——這一倫理要求可能需要“繁重的工作”，并會(huì)減緩他們的發(fā)展進(jìn)程。

在Goldman的指導(dǎo)下，該公司推出了一套工具和流程，以幫助Salesforce員工和客戶(hù)“有效地拓展他們的倫理想象力”。正如Schlesinger所說(shuō)，該公司提供了一個(gè)教育模塊，培訓(xùn)開(kāi)發(fā)人員如何構(gòu)建“可信的人工智能”，并組織員工關(guān)注倫理問(wèn)題。他說(shuō)：“我們的基本任務(wù)不是教授倫理學(xué)，也不是教授道義論與康德主義或功利主義的倫理學(xué)方法——這可能不是我們的工程師所需要的。人們需要的是倫理風(fēng)險(xiǎn)識(shí)別方面的培訓(xùn)，如何識(shí)別風(fēng)險(xiǎn)，以及當(dāng)你從過(guò)程角度（而非倫理角度）看待風(fēng)險(xiǎn)時(shí)，你該如何應(yīng)對(duì)。”

Goldman也認(rèn)為：“這并非不從倫理角度出發(fā)，我們關(guān)注的更多的是實(shí)踐，‘你該怎么做’，而不是理論。”

該公司還創(chuàng)建了可解釋性功能、機(jī)密熱線和受保護(hù)字段，這些字段警告Salesforce客戶(hù)端，郵政編碼等數(shù)據(jù)與種族高度相關(guān)。他們已經(jīng)完善了可接受的使用政策，以防止他們的電子商務(wù)平臺(tái)被用來(lái)銷(xiāo)售各種各樣的槍支，防止他們的人工智能被用來(lái)在法律決策中做出最后的決定。倫理和人性化使用團(tuán)隊(duì)在辦公時(shí)間里，員工可以順便來(lái)問(wèn)問(wèn)題。他們還讓自己的團(tuán)隊(duì)參與由Doteveryone的研究人員開(kāi)發(fā)的一項(xiàng)名為“結(jié)果掃描（consequence scanning）”的活動(dòng)。

團(tuán)隊(duì)被要求回答三個(gè)問(wèn)題：“這個(gè)產(chǎn)品或功能的預(yù)期和非預(yù)期后果是什么？我們想要關(guān)注的積極后果是什么？我們希望削弱哪些后果？”整個(gè)過(guò)程被設(shè)計(jì)成適應(yīng)敏捷的軟件開(kāi)發(fā)，盡可能減少干擾。就像目前正在使用的大多數(shù)倫理干預(yù)措施一樣，它并不是真的要讓事情慢下來(lái)，或者改變企業(yè)的運(yùn)作方式。只是在幫助企業(yè)小心“倫理稅”。

前軟件工程師、現(xiàn)任Markkula中心媒體倫理主任的Subbu Vincent說(shuō)：“沒(méi)人會(huì)碰運(yùn)行代碼，工程師們總是希望在這個(gè)處理數(shù)十億用戶(hù)的軟件系統(tǒng)上投入新的努力如果他們不這樣做，就可能會(huì)結(jié)束他們的職業(yè)生涯?！?br>

這就是問(wèn)題所在。這些方法雖然出發(fā)點(diǎn)是好的，也有潛在的影響力，但它們往往表明，道德是可以量化的東西。想要生活在一個(gè)更道德的生活中，僅僅需要坐下來(lái)接受適當(dāng)數(shù)量的培訓(xùn)和鍛煉。

Data & Society的研究人員Jacob Metcalf表示：“值得注意的是，正在出現(xiàn)的解決方案使用的語(yǔ)言是，‘我們會(huì)適應(yīng)你已經(jīng)熟悉的東西?！麄儾粫?huì)說(shuō)，‘也許不要對(duì)用戶(hù)數(shù)據(jù)如此貪婪，也許你不需要使用這些剝削性的方法來(lái)擴(kuò)大規(guī)模?！麄儾](méi)有強(qiáng)迫房間里的人改變多樣性。”

Metcalf最近與同事Danah Boyd和Emmanuel Moss一起，對(duì)17名來(lái)自不同公司的“倫理所有者”進(jìn)行了調(diào)查。一位工程師告訴他們，科技界的人“還沒(méi)有被倫理打動(dòng)”。一位高管告訴他們，市場(chǎng)壓力阻礙了他們，“如果我們遵守這些甚至不存在的規(guī)則，那么我們就會(huì)處于劣勢(shì)。”與他們交談的“倫理所有者”都在嘗試用不同的方法解決問(wèn)題，但他們往往試圖推動(dòng)從其他領(lǐng)域?qū)W來(lái)的簡(jiǎn)單、實(shí)用的解決方案，比如清單和教育模塊。

研究人員寫(xiě)道：“通過(guò)將倫理界定為一個(gè)困難但容易處理的技術(shù)問(wèn)題，并使之適用于熟悉的方法，倫理所有者能夠招募他們認(rèn)為需要的技術(shù)和管理專(zhuān)家，作為‘做倫理’項(xiàng)目的正式參與者。然而，在用于構(gòu)建問(wèn)題的相同模型中構(gòu)建解決方案本身就是一種失敗。”

如果倫理真的“降臨”到一家公司，它通常會(huì)悄無(wú)聲息地降臨，最理想的情況則是無(wú)形的。Doteveryone的代理首席執(zhí)行官M(fèi)iller說(shuō)：“成功是不好的事情沒(méi)有發(fā)生，這是一個(gè)非常難以衡量的事情。”在最近對(duì)英國(guó)科技工作者的一項(xiàng)調(diào)查中，Miller和她的團(tuán)隊(duì)發(fā)現(xiàn)，28%的人曾看到過(guò)他們認(rèn)為會(huì)對(duì)人類(lèi)或社會(huì)產(chǎn)生負(fù)面影響的科技決策。其中，五分之一的人因此離開(kāi)了自己的公司。

Enigma是一家位于紐約市的小型商業(yè)數(shù)據(jù)和情報(bào)初創(chuàng)公司，該公司的所有新員工都必須與身為該公司首位數(shù)據(jù)倫理官的哲學(xué)教授Brent進(jìn)行一系列會(huì)談。

在這些會(huì)談上，Brent打開(kāi)幻燈片說(shuō)：“好了，各位?，F(xiàn)在我們將用一個(gè)小時(shí)的時(shí)間來(lái)介紹過(guò)去2400年提出的，基于歐洲的，極具影響力的道德理論?！?br>

這個(gè)會(huì)議的想法是，從頭開(kāi)始是找出前進(jìn)道路、提出新答案的唯一途徑。他說(shuō)：“我們正在研究的理論顯然還沒(méi)有直接應(yīng)用到這些新問(wèn)題上。所以這取決于我們，對(duì)吧？我們是必須解決問(wèn)題的人?！?br>

與他共事的工程師們——“25歲，剛畢業(yè)，年輕，才華橫溢”——不可避免地會(huì)問(wèn)他，所有這些關(guān)于道德和倫理的討論，在旁觀者看來(lái)，是否只是主觀的。他們來(lái)到他的辦公室，請(qǐng)他解釋。他說(shuō)：“到最后，他們會(huì)意識(shí)到，這不僅僅是主觀主義，也沒(méi)有客觀的答案，要適應(yīng)那個(gè)灰色地帶。”

Brent在哥倫比亞大學(xué)攻讀博士學(xué)位時(shí)，在哲學(xué)課上遇到了Enigma的創(chuàng)始人Marc DaCosta和Hicham Oudghiri。他們很快成為了朋友，后來(lái)受邀加入了他們的公司。不久后，Enigma的一位數(shù)據(jù)科學(xué)家叫他過(guò)來(lái)看一份個(gè)人名單和個(gè)人資料。“我當(dāng)時(shí)想，哇，然后我問(wèn)：你打算怎么處理這些數(shù)據(jù)？它是從哪里來(lái)的？我們?nèi)绾伪ＷC它的安全？顯然，這位工程師還沒(méi)有意識(shí)到他有權(quán)獲取這些身份信息。我想，好吧，讓我們談?wù)勅绾握_使用它。”

事實(shí)上，Brent和其他許多像他一樣的人，都在這個(gè)房間里問(wèn)這些問(wèn)題，這是一個(gè)有意義的轉(zhuǎn)變。受過(guò)訓(xùn)練的哲學(xué)家們正在與企業(yè)進(jìn)行咨詢(xún)，并共同撰寫(xiě)報(bào)告，闡述在一個(gè)充滿未知的世界里構(gòu)建不可預(yù)測(cè)的技術(shù)時(shí)，在倫理上采取行動(dòng)意味著什么。

另一位在一家大型科技公司工作的人文博士告訴我，他最終在團(tuán)隊(duì)中采取的干預(yù)措施，往往包括讓同事們少做一些他們正在做的事情，并以更清晰、更準(zhǔn)確的方式表達(dá)想法。他說(shuō)：“這很難，因?yàn)橐嬲圃爝@些產(chǎn)品，完成我們的工作，所有的機(jī)器學(xué)習(xí)都是圍繞著數(shù)據(jù)建立的。你現(xiàn)在真的無(wú)法避免，有很多地方要?！F(xiàn)在基本上很難做好我們的工作?！?br>

但對(duì)于每一個(gè)進(jìn)入這一領(lǐng)域的專(zhuān)業(yè)人士來(lái)說(shuō)，都有同樣多的——也許更多的——被Reid Blackman（一位出任倫理咨詢(xún)專(zhuān)家的哲學(xué)教授）稱(chēng)為“熱情的業(yè)余人士”的同事。“你周遭的工程師們會(huì)關(guān)心倫理問(wèn)題，但不知何故，他們把關(guān)心和專(zhuān)業(yè)知識(shí)混淆了。然后他們把自己包裝成，比如說(shuō)，人工智能倫理學(xué)家，但他們肯定不是倫理學(xué)家。我看到他們寫(xiě)的東西，聽(tīng)到他們說(shuō)的東西，這些都是我在倫理學(xué)導(dǎo)論課上的新生們會(huì)說(shuō)的話，我必須糾正他們?！?br>

其結(jié)果是，涉入這個(gè)領(lǐng)域就會(huì)遇到一個(gè)真正的巴別塔。最近對(duì)來(lái)自世界各地的84項(xiàng)人工智能倫理準(zhǔn)則的研究發(fā)現(xiàn)，“在所有文件中，似乎沒(méi)有一項(xiàng)倫理原則達(dá)成了共識(shí)，盡管?chē)@以下原則出現(xiàn)了趨同趨勢(shì)：透明度、公正與公平、非惡意、責(zé)任和隱私?！?br>

在某種程度上，這也是一個(gè)地緣政治問(wèn)題：每個(gè)國(guó)家都希望自己的人工智能道德規(guī)范成為贏家。Miller說(shuō)：“所有這些人工智能倫理原則的提出，都是為了支持特定的世界觀，以及‘好’是什么的特定理念?！?br>

“現(xiàn)在還為時(shí)過(guò)早，”Goldman說(shuō)，所以人們會(huì)用不同的詞匯來(lái)談?wù)摰赖聜惱?，這并不奇怪?！邦I(lǐng)域就是這樣創(chuàng)建的，我相信安全也會(huì)是這樣產(chǎn)生的?！?br>

我問(wèn)她和Schlesinger，如果Salesforce的客戶(hù)決定無(wú)視他們?cè)谙到y(tǒng)中處理的所有道德警告，使用可能導(dǎo)致有偏見(jiàn)的結(jié)果的數(shù)據(jù)，會(huì)發(fā)生什么。Goldman停頓了一下。問(wèn)題是，倫理在這一點(diǎn)上仍然是你可以選擇的。Schlesinger解釋說(shuō)，Salesforce的系統(tǒng)現(xiàn)在的設(shè)計(jì)目的是讓客戶(hù)“有機(jī)會(huì)決定他們是否想要使用這些代碼，我們真的相信，客戶(hù)應(yīng)該被授權(quán)使用所有的信息來(lái)做出他們的決定，但是他們的用例只能服務(wù)他們的目標(biāo)。”

同樣，在Enigma，該公司的聯(lián)合創(chuàng)始人和領(lǐng)導(dǎo)團(tuán)隊(duì)可以選擇不聽(tīng)取Brent的建議。他說(shuō)：“我會(huì)說(shuō)，好吧，我認(rèn)為開(kāi)發(fā)這類(lèi)產(chǎn)品存在道德風(fēng)險(xiǎn)。但你們是賺錢(qián)的人，所以你們可以決定自己愿意承擔(dān)多大的風(fēng)險(xiǎn)，這是一種商業(yè)主張?！?br>