智能安防如何減少假警報的風險？
產品資訊2019年04月10日
分享
現在各行各業都在向AI靠攏，但若論在哪個行業AI發展的會更快、更具有潛力，非安防莫屬。以智能監控系統為代表的AI安防產品已經覆蓋到眾多應用領域，AI技術的應用讓安防行業嘗到了甜頭。如今，無論是公共安全領域、智能交通、智慧城市、智能樓宇、工廠園區，乃至物流運輸、電力巡檢等都少不了AI安防產品的身影。
不過，AI技術被安防行業采納不僅是為了更有效地完成當前業務，這是一個多方面的過程，更重要的是，AI還需要不斷重新評估這些實踐結果，以適應客戶不斷變化的需求。另外，AI技術固然能在擴大監控規模的前提下能夠有效收集情報并充分分析，及時阻止安全事件發生，也有可能產生一些倫理道德問題。
目前，從很多案例可以看出，有些AI做判斷時存在歧視。例如，美國AI會更偏向中年白人，而預測違法時往往會把黑人和黑人集中區域當做重點預測對象。我國也有根據一個人臉部特征與行為舉止來判斷此人是否具有社會威脅性并提醒警方先發質人的AI系統。人類的偏見被機器學習并吸收，這是AI發展所面臨的一種道德危機。這些表現無疑會使AI受到大量道德譴責。
此外，個人隱私與數據保護、AI系統對外部攻擊的防御能力、以及算法透明度等問題也越來越成為AI安防亟需突破的重點問題。
毫無疑問，AI的確需要監管，但現在我們還不清楚如何對其進行監管。歐盟(EU)近日發布了一套指南，指導企業和政府在開發人工智能時遵循道德準則，旨在解決AI帶來的棘手問題。該指南認為，未來AI系統應該滿足下列7項要求：人道機構的監督、技術穩健性和安全性、隱私和數據治理、算法透明度、多元化非歧視和公平性、環境和社會福利以及完善的問責制。這份清單為減輕AI的潛在危害提供了一個實用且具前瞻性的視角。
數字權利組織Access Now的政策經理范妮·希德維吉認為：歐盟不應止步于道德準則，因為道德準則只有在法律基礎上才能發揮更大作用。但是由道德走向法律，必須非常審慎。在此之前，還需要AI技術進一步發展并更廣泛且深入地應用。
結語：對影響日益擴大乃至滲透人們生活各個方面的AI安防而言，為了使系統發揮應有的作用，加強監視和構建倫理之間必須有一個可以被社會廣泛接受的平衡。如果在采用人工智能技術的過程中包含了日后數據收集訓練的方向，那么可能會減少假警報的風險，也可以在AI驅動的決策中充分體現其公平性，盡量減少其可能對社會產生的負面影響。
來源：中國安防展覽網
責任編輯：葉超
編輯：王藝霏
一周排行榜
熱門活動
工具推薦
-
工程設計計算器
-
河姆渡方案館
