語言切換
新聞動態

DARPA研發具有自我感知能力的人工智能和機器學習技術, 提高機器學習系統透明度

發布日期: 2020-07-22
來源:
瀏覽量: 14
分享到:

DARPA研發具有自我感知能力的人工智能和機器學習技術, 提高機器學習系統透明度



DARPA研發具有自我感知能力的人工智能和機器學習技術, 提高機器學習系統透明度

BAE系統公司7月14日宣布,作為美DARPA能力感知機器學習(CAML)項目合同的一部分,BAE系統公司近期向DARPA交付了MindfuL軟件。MindfuL軟件的交付是該項目提高機器學習系統透明度的首個里程碑。BAE系統公司聲稱,該公司開發的新軟件可以幫助美國國防部建立對機器學習算法產生的決策和情報的信心。

將基于人工智能的系統從決策工具轉變為真正的合作伙伴,需要用戶信任他們的機器伙伴。雖然機器學習技術已經成熟,但這些系統還不能傳達其決策的背景和信心——包括任務策略、與給定任務相關的訓練完成情況、可能影響其行動的因素,或者在特定條件下成功的可能性。機器學習算法為美國防部系統帶來了希望,但是如何確定用戶對其輸出的信任度仍是一個挑戰。情報官員一再指出,分析人員不能依賴于僅僅產生一個決定或一條情報的黑盒人工智能系統,他們需要了解這個系統是如何做出這個決定的,以及哪些看不見的問題(訓練數據或其他方面)可能會影響這個決定。

DARPA研發具有自我感知能力的人工智能和機器學習技術, 提高機器學習系統透明度

為了應對這些挑戰,BAE系統公司提供了MindfuL解決方案,該系統將獨立“審計”基于機器學習的系統,并為最終用戶提供對該技術建立信任的洞察力。該系統的第一個軟件版本提供了一種基線能力,用于檢測系統何時遇到未經訓練的新環境。

BAE系統公司自主、控制和評估小組的產品線主管Chris Eisenbies說:“支撐機器學習和人工智能應用的技術正在迅速發展,現在是時候確保這些系統能夠集成、使用,并最終在戰場上獲得信任。”MindfuL系統儲存相關數據,比較當前環境和過去的經驗,得出易于理解的結論。

MindfuL旨在通過提供更多關于產出的背景信息來幫助用戶評估對于機器學習算法產生的決策和情報的可信度。該程序將生成這樣的描述:“機器學習系統已經在陽光充足的干燥環境中導航了1000次,并且在類似條件下以高于99%的準確率完成了任務。”或者,“在類似的條件下,機器學習系統在雨中僅導航100次,準確率只有80%;建議手動控制。”

MindfuL軟件是BAE系統公司和麻省理工學院計算機科學和人工智能實驗室合作設計和制造的。根據DARPA在2019年授予的為期三年、價值約500萬美元的CAML項目, BAE系統公司計劃在今年晚些時候演示軟件的仿真和原型硬件。


來源:電科小氙


DARPA研發具有自我感知能力的人工智能和機器學習技術, 提高機器學習系統透明度






在線留言
  • 您的姓名:
  • *
  • 電話:
  • *
  • 詳細說明:
  • 內容
     
Copyright ?2018 - 2023 西安欣創電子技術有限公司
犀牛云提供企業云服務
国产精品第一页正在播放闺蜜 网站地图