环球电气之家-午夜精彩视频-中国专业电气电子产品行业服务网站！

我們發現，智能機器人不一定具有可以使人類遠離傷害所必須的技能。

受控的試錯法是大多數機器人必須具有的技術，邊緣計算和自動駕駛汽車解決方案是獲取和發展其AI智能的方法。作為自主設備背后的大腦，人工智能可以幫助機器人如此出色地完成其分配的任務。

對AI機器人進行安全操作培訓不是一個好過程。當機器人搜索最佳動作序列以實現其預期結果時，它必將采取比最佳路徑更多的適得其反的動作。

機器人需要學習什么

開發人員在將其AI驅動的機器人推向更廣闊的場景之前，必須將以下場景納入其RL程序中：

地理空間意識：現實操作環境對于通用機器人成功導航而言可能非常棘手。正確的RL可以幫助此安全機器人中的AI算法了解其旨在巡邏的室內和室外環境中的運動挑戰范圍。僅為機器人配備內置攝像機和熱成像是不夠的。將其滾動到公共噴泉中之后，再也無法挽救它了。

避免碰撞：在許多現實環境中，機器人可能像助手一樣危險。對于自動駕駛汽車，這是顯而易見的，但對于零售，辦公室，住宅和其他人們可能會放松警惕的環境也是如此。社會有充分的理由期望將AI驅動的防護措施內置到日常的機器人中，這樣，幼兒、殘障人士和其他人就不必擔心他們會在我們最不期望的時候墜入我們的視野。

避免碰撞是RL面臨的主要挑戰，應該成為每個機器人中的一種標準，高度精確的算法。法律和監管機構很快就會對此提出要求。

相關內容的分類：機器人將在越來越復雜的工業協作中與人類近距離合作。其中許多合作將涉及高速，高通量的生產工作。為了避免生命危險和肢體風險，控制工廠底層機器人的AI將需要智能設備，以迅速將人與周圍的機械和材料區分開。

這些算法分類將依賴于3D數據的實時關聯來自各種攝像頭和傳感器，并將推動自動化風險緩解措施，例如停止設備運行或降低設備運行速度，以免傷害人類工作者。鑒于需要圍繞組合場景進行無限范圍的組合訓練，圍繞該組合場景需要訓練工業機器人控制，并且相應地存在大量潛在事故，因此必要的AI將在RL上運行，該RL是根據從實際操作和高度真實的實驗室模擬中收集的數據進行訓練的。

避免自殘：幾乎不會對機器人進行編程以破壞自身和/或周圍環境。但是，通過RL訓練的機器人可能會探索各種各樣的可選行為，其中一些行為可能會導致自殘。作為其核心訓練的擴展，可以使用一種稱為“剩余RL ”的方法來防止機器人在訓練過程中探索自毀或環境破壞行為。隨著機器人在抓取和操縱環境（包括與人類操作員互動）方面變得如此靈活，以至于除非受到訓練，否則他們開始使自己和他人處于危險之中，因此使用這種自我保護的訓練程序可能會成為主流。

認證機構：機器人越來越成為我們生活中各個方面的數字代理的物理表現。這里提到的智能音箱應該已經接受過培訓，以免下達未經授權的訂單。他們錯誤地遵循了一個語音激活的購買請求，該請求來自一個未經父母授權的孩子。盡管這可以通過多因素身份驗證而不是通過算法訓練來解決，但很明顯，在決定使用哪種多因素方法進行強身份驗證和委派許可時，在許多環境中，聲控機器人可能需要逐步通過復雜的算法。

可以想象，RL可以用來幫助機器人更快地識別最合適的身份驗證，授權和委派程序，以在環境中充當許多嘗試執行各種動態任務的人員的代理。

防御性操縱：機器人是必須在其他實體（例如人）可能會故意進行的和意外攻擊中幸免的對象。這款無人駕駛穿梭巴士中的AI算法應經過訓練，以采取某種規避動作（例如，朝相反的方向傾斜幾英尺），以避免半身不經意地倒入其中。對于在運輸，公共安全和軍事角色中部署的機器人而言，防御性機動將變得至關重要。這也是機器人設備抵御普遍的惡作劇和破壞行為的必不可少的功能，無論部署在哪里，它們肯定會吸引他們。

協作編排：越來越多地將機器人部署為協調的集合，而不是孤立的助手。應當訓練倉庫機器人中的AI算法，使其彼此協調工作，并與這些環境中的許多人協調工作。鑒于潛在的交互方案范圍很廣，這對于RL來說是一個艱巨的挑戰。但是社會將要求各種設備提供這種基本能力，包括在我們的天空巡邏，運送我們的貨物以及探索對人類來說太危險的環境的無人機。

文化敏感性：機器人必須尊重文明社會規范的人。這包括確保機器人的面部識別算法 不會對所遇到的人進行歧視，貶低或以其他方式不敏感的推斷。當我們將機器人部署到高度社交的環境中時，這將變得更加關鍵，在這種環境中，必須訓練機器人不要冒犯他人，例如，通過對跨性別者使用不正確的基于性別的稱呼。

對于實際人類而言，這些區別可能非常棘手，但這只會增加對RL訓練AI驅動的實體以避免犯下自動偽造的需求。

確保符合安全要求

在不久的將來，可能需要您的RL過程的視頻審核日志，以使利益相關者通過鼓舞，這些利益相關者需要證明您的作品符合所有合理的AI安全 標準。

對機器人進行安全操作的培訓可能是一個漫長，令人沮喪且乏味的過程。開發人員可能需要通過艱苦的努力來發展他們的RL實踐，直到他們的機器人能夠以可以推廣到各種安全場景的方式進行操作。

在接下來的幾年中，對于將機器人技術部署到使人們的生命處于危險中的應用程序的AI專業人員來說，這些做法很可能成為強制性的。