在線客服
企業(yè)微信
核心提示：2023 年，我們將開始看到一種提供數(shù)據(jù)、測試和監(jiān)控結(jié)果的方法，以確保我們的算法具有道德指南針，就像阿西莫夫在 80 年前設(shè)想
2023 年，我們將開始看到一種提供數(shù)據(jù)、測試和監(jiān)控結(jié)果的方法，以確保我們的算法具有道德指南針，就像阿西莫夫在 80 年前設(shè)想的機(jī)器人技術(shù)的三個基本定律一樣。Macami.ai 的聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Carlos Martin 強(qiáng)調(diào)，隨著我們在合作中共同成長，需要在道德上合理的 AI 進(jìn)化。
1942 年，作家艾薩克·阿西莫夫（Isaac Asimov）在他的短篇小說《Runaround》中介紹了機(jī)器人三定律：
第一定律：機(jī)器人不得傷害人類，或因不作為而讓人類受到傷害。
第二定律：機(jī)器人必須服從人類給它的命令，除非這些命令與第一定律相沖突。
第三定律：機(jī)器人必須保護(hù)自己的存在，只要這種保護(hù)不與第一或第二定律相沖突。
在這個故事以及隨后的故事中，如我、機(jī)器人、二百周年紀(jì)念人或機(jī)器人系列，阿西莫夫描繪了一個人類在技術(shù)上遠(yuǎn)比我們先進(jìn)的世界，智能機(jī)器人幫助完成家庭日常任務(wù)是一種商品，在那里他們是老人的陪伴，孩子的保姆，也是工人。這些機(jī)器人有所謂的正電子大腦，一種管理和處理它們的視覺、智能和運(yùn)動功能的 CPU。
在我們這個時代，可供企業(yè)和大眾使用的是所謂的狹義人工智能；根據(jù)手頭的任務(wù)，可以通過單獨(dú)的渠道或 API 訪問這種類型的人工智能。例如，對于自然語言處理，必須連接到一個或多個提供該類型 AI 的特定通道/API。對于計算機(jī)視覺，還必須連接到一個或多個特定通道/API。機(jī)器學(xué)習(xí)算法也是如此。除了實驗性之外，我們今天還沒有涵蓋所有內(nèi)容的人工智能。當(dāng)然，有一些實驗性的人工智能技術(shù)試圖將其提升到一個新的水平，被稱為通用人工智能，甚至更進(jìn)一步，比如被稱為 PLATO 的人工智能，
人工智能對我們生活的深刻影響
企業(yè)和公眾使用的技術(shù)被認(rèn)為是窄人工智能。即使人工智能處于真正的嬰兒期，我們也看到了對我們生活的深刻影響。我們看到社交媒體正在為我們提供更多重申我們信念的內(nèi)容，即使它們可能是錯誤的。如果你認(rèn)為登月是假的，社交媒體的人工智能會發(fā)現(xiàn)更多內(nèi)容讓你感興趣。很冷。它不在乎是否還有一百萬個事實證明并非如此——它仍然會滿足你的需求。為什么？很簡單：錢。這些算法可以讓你的眼球忙于那些內(nèi)容，從而為你提供更多廣告。干凈利落。
人工智能不會犯錯：誰承擔(dān)道德責(zé)任？
我們有一些案例，人工智能錯誤地識別了一個感興趣的人，或者人工智能視覺在識別有色人種方面存在更多問題，或者肯塔基州法院系統(tǒng)的案例，使用人工智能算法評估一個人的風(fēng)險以確定保釋的可能性只是后來才發(fā)現(xiàn)系統(tǒng)不成比例地將黑人確定為更高的風(fēng)險，而以前幾乎沒有區(qū)別。我們已經(jīng)看到人工智能算法會根據(jù)年齡丟棄人們的簡歷。還有微軟的人工智能 Tay 的例子，在不到 16 小時的時間里，Twitter 被教導(dǎo)成為一個種族主義混蛋，它開始通過其 Twitter 賬戶發(fā)布煽動性和攻擊性的推文，導(dǎo)致微軟將其關(guān)閉。
人工智能與以前的編碼方法的區(qū)別在于，人工智能在很大程度上是一種統(tǒng)計算法，而以前的編碼方法或語言是確定性的 if-then-else 流。傳統(tǒng)上，我們已經(jīng)看到編碼實踐演變?yōu)楦鼑?yán)格的東西，并且演變了幾種方法和實踐：瀑布、敏捷、Scrum 等。實踐和法規(guī)也演變?yōu)楸Ｗo(hù)信息，例如 PCI（保護(hù)持卡人的信息） )，或 HIPAA（保護(hù)患者信息）等。
這些方法和實踐的目的正是為混亂的開發(fā)帶來秩序，強(qiáng)制規(guī)劃和設(shè)計實踐，并為正在進(jìn)行的任何開發(fā)帶來嚴(yán)格的測試方法。最終目標(biāo)是擁有可靠、有彈性的軟件解決方案，既能解決需求，又能保護(hù)人們和企業(yè)的利益。
如前所述，人工智能算法是不同的。華盛頓大學(xué)教授佩德羅·多明戈斯（Pedro Domingos）在他的《算法大師》一書中說得非常好：“學(xué)習(xí)算法是種子，數(shù)據(jù)是土壤，學(xué)習(xí)程序是種植的植物。機(jī)器學(xué)習(xí)專家就像農(nóng)民一樣，播種、灌溉和施肥，同時關(guān)注作物的健康狀況，否則會置身事外。” 到目前為止，還沒有普遍接受的方法可以將數(shù)據(jù)提供給當(dāng)前的機(jī)器學(xué)習(xí)算法。在這些算法中也沒有幫助確定是非的護(hù)欄。
2022 年 10 月，白宮發(fā)布了《人工智能權(quán)利法案》的藍(lán)圖，其實質(zhì)是試圖確立人工智能系統(tǒng)必須安全、有效、無歧視、尊重數(shù)據(jù)隱私、公開使用并具有廣泛人工監(jiān)督的結(jié)構(gòu)。在我看來，這是一個很好的開始嘗試，然而，它并沒有涵蓋最尖銳和最明顯的問題：它關(guān)注的是最終結(jié)果而不是開始。請允許我解釋一下：要使 AI 系統(tǒng)符合 AI 權(quán)利法案的所有要求，它必須首先輸入數(shù)據(jù)。干凈利落。
我相信在 2023 年，我們將開始看到新方法的擴(kuò)散和成熟，以提供數(shù)據(jù)并測試 AI 算法的結(jié)果。在我看來，我們需要以類似的方式來考慮這些算法，就像我們認(rèn)為人類需要有道德和價值觀一樣，重視公平和禮貌。很難認(rèn)為它們需要道德指南針，但現(xiàn)實情況是這些算法會影響人類生活，這并不總是更好。
攜手共創(chuàng)未來
當(dāng)我們實施人工智能模型時，我們需要進(jìn)行步驟、規(guī)劃和設(shè)計。這些已經(jīng)是傳統(tǒng)軟件開發(fā)過程中的常見做法。為什么不在人工智能中？我們需要問一些問題，例如這個模型是否適用于所有顏色和性別？這個模型是否被提供了等量的樣本數(shù)據(jù)，這些數(shù)據(jù)公平地代表了它會影響的人？這種模式的結(jié)果是否平等地保護(hù)了公民的權(quán)利？這個算法有沒有辦法識別它不應(yīng)該說的東西？
簡而言之，人工智能是一種比傳統(tǒng)軟件更先進(jìn)的技術(shù)。為什么不采用一種方法來提供數(shù)據(jù)、測試和監(jiān)控結(jié)果，以確保我們的算法具有道德指南針，就像阿西莫夫在 80 年前設(shè)想的機(jī)器人技術(shù)的三個基本定律一樣？
1942 年，作家艾薩克·阿西莫夫（Isaac Asimov）在他的短篇小說《Runaround》中介紹了機(jī)器人三定律：
第一定律：機(jī)器人不得傷害人類，或因不作為而讓人類受到傷害。
第二定律：機(jī)器人必須服從人類給它的命令，除非這些命令與第一定律相沖突。
第三定律：機(jī)器人必須保護(hù)自己的存在，只要這種保護(hù)不與第一或第二定律相沖突。
在這個故事以及隨后的故事中，如我、機(jī)器人、二百周年紀(jì)念人或機(jī)器人系列，阿西莫夫描繪了一個人類在技術(shù)上遠(yuǎn)比我們先進(jìn)的世界，智能機(jī)器人幫助完成家庭日常任務(wù)是一種商品，在那里他們是老人的陪伴，孩子的保姆，也是工人。這些機(jī)器人有所謂的正電子大腦，一種管理和處理它們的視覺、智能和運(yùn)動功能的 CPU。
在我們這個時代，可供企業(yè)和大眾使用的是所謂的狹義人工智能；根據(jù)手頭的任務(wù)，可以通過單獨(dú)的渠道或 API 訪問這種類型的人工智能。例如，對于自然語言處理，必須連接到一個或多個提供該類型 AI 的特定通道/API。對于計算機(jī)視覺，還必須連接到一個或多個特定通道/API。機(jī)器學(xué)習(xí)算法也是如此。除了實驗性之外，我們今天還沒有涵蓋所有內(nèi)容的人工智能。當(dāng)然，有一些實驗性的人工智能技術(shù)試圖將其提升到一個新的水平，被稱為通用人工智能，甚至更進(jìn)一步，比如被稱為 PLATO 的人工智能，
人工智能對我們生活的深刻影響
企業(yè)和公眾使用的技術(shù)被認(rèn)為是窄人工智能。即使人工智能處于真正的嬰兒期，我們也看到了對我們生活的深刻影響。我們看到社交媒體正在為我們提供更多重申我們信念的內(nèi)容，即使它們可能是錯誤的。如果你認(rèn)為登月是假的，社交媒體的人工智能會發(fā)現(xiàn)更多內(nèi)容讓你感興趣。很冷。它不在乎是否還有一百萬個事實證明并非如此——它仍然會滿足你的需求。為什么？很簡單：錢。這些算法可以讓你的眼球忙于那些內(nèi)容，從而為你提供更多廣告。干凈利落。
人工智能不會犯錯：誰承擔(dān)道德責(zé)任？
我們有一些案例，人工智能錯誤地識別了一個感興趣的人，或者人工智能視覺在識別有色人種方面存在更多問題，或者肯塔基州法院系統(tǒng)的案例，使用人工智能算法評估一個人的風(fēng)險以確定保釋的可能性只是后來才發(fā)現(xiàn)系統(tǒng)不成比例地將黑人確定為更高的風(fēng)險，而以前幾乎沒有區(qū)別。我們已經(jīng)看到人工智能算法會根據(jù)年齡丟棄人們的簡歷。還有微軟的人工智能 Tay 的例子，在不到 16 小時的時間里，Twitter 被教導(dǎo)成為一個種族主義混蛋，它開始通過其 Twitter 賬戶發(fā)布煽動性和攻擊性的推文，導(dǎo)致微軟將其關(guān)閉。
人工智能與以前的編碼方法的區(qū)別在于，人工智能在很大程度上是一種統(tǒng)計算法，而以前的編碼方法或語言是確定性的 if-then-else 流。傳統(tǒng)上，我們已經(jīng)看到編碼實踐演變?yōu)楦鼑?yán)格的東西，并且演變了幾種方法和實踐：瀑布、敏捷、Scrum 等。實踐和法規(guī)也演變?yōu)楸Ｗo(hù)信息，例如 PCI（保護(hù)持卡人的信息） )，或 HIPAA（保護(hù)患者信息）等。
這些方法和實踐的目的正是為混亂的開發(fā)帶來秩序，強(qiáng)制規(guī)劃和設(shè)計實踐，并為正在進(jìn)行的任何開發(fā)帶來嚴(yán)格的測試方法。最終目標(biāo)是擁有可靠、有彈性的軟件解決方案，既能解決需求，又能保護(hù)人們和企業(yè)的利益。
如前所述，人工智能算法是不同的。華盛頓大學(xué)教授佩德羅·多明戈斯（Pedro Domingos）在他的《算法大師》一書中說得非常好：“學(xué)習(xí)算法是種子，數(shù)據(jù)是土壤，學(xué)習(xí)程序是種植的植物。機(jī)器學(xué)習(xí)專家就像農(nóng)民一樣，播種、灌溉和施肥，同時關(guān)注作物的健康狀況，否則會置身事外。” 到目前為止，還沒有普遍接受的方法可以將數(shù)據(jù)提供給當(dāng)前的機(jī)器學(xué)習(xí)算法。在這些算法中也沒有幫助確定是非的護(hù)欄。
2022 年 10 月，白宮發(fā)布了《人工智能權(quán)利法案》的藍(lán)圖，其實質(zhì)是試圖確立人工智能系統(tǒng)必須安全、有效、無歧視、尊重數(shù)據(jù)隱私、公開使用并具有廣泛人工監(jiān)督的結(jié)構(gòu)。在我看來，這是一個很好的開始嘗試，然而，它并沒有涵蓋最尖銳和最明顯的問題：它關(guān)注的是最終結(jié)果而不是開始。請允許我解釋一下：要使 AI 系統(tǒng)符合 AI 權(quán)利法案的所有要求，它必須首先輸入數(shù)據(jù)。干凈利落。
我相信在 2023 年，我們將開始看到新方法的擴(kuò)散和成熟，以提供數(shù)據(jù)并測試 AI 算法的結(jié)果。在我看來，我們需要以類似的方式來考慮這些算法，就像我們認(rèn)為人類需要有道德和價值觀一樣，重視公平和禮貌。很難認(rèn)為它們需要道德指南針，但現(xiàn)實情況是這些算法會影響人類生活，這并不總是更好。
攜手共創(chuàng)未來
當(dāng)我們實施人工智能模型時，我們需要進(jìn)行步驟、規(guī)劃和設(shè)計。這些已經(jīng)是傳統(tǒng)軟件開發(fā)過程中的常見做法。為什么不在人工智能中？我們需要問一些問題，例如這個模型是否適用于所有顏色和性別？這個模型是否被提供了等量的樣本數(shù)據(jù)，這些數(shù)據(jù)公平地代表了它會影響的人？這種模式的結(jié)果是否平等地保護(hù)了公民的權(quán)利？這個算法有沒有辦法識別它不應(yīng)該說的東西？
簡而言之，人工智能是一種比傳統(tǒng)軟件更先進(jìn)的技術(shù)。為什么不采用一種方法來提供數(shù)據(jù)、測試和監(jiān)控結(jié)果，以確保我們的算法具有道德指南針，就像阿西莫夫在 80 年前設(shè)想的機(jī)器人技術(shù)的三個基本定律一樣？
