作者：KYLE WIGGERS 譯者：無明 來源：infoq

有人稱之為“強(qiáng)”人工智能，也有人稱之為“真實(shí)”人工智能，或“通用”人工智能(AGI)，不論怎么稱呼，有關(guān)通用人工智能的討論隨著技術(shù)的進(jìn)步愈發(fā)激烈，有人認(rèn)為通用人工智能可以像人一樣思考——甚至可能擁有超人的智力水平，或許會(huì)產(chǎn)生不可預(yù)知的、無法控制的后果;另有一些人認(rèn)為：目前的人工智能離 AGI 的智力水平還相差甚遠(yuǎn)。

人工智能研究者、反向傳播算法發(fā)明人 Geoffrey Hinton 與 DeepMind CEO、AlphaGo 之父 Demis Hassabis 在近期的一場(chǎng)采訪中，就通用人工智能的發(fā)展現(xiàn)狀進(jìn)行了一番熱烈的討論。

預(yù)測(cè)音樂喜好、檢測(cè)轉(zhuǎn)移性腫瘤、生成腦癌的合成掃描圖、基于真實(shí)的視頻創(chuàng)建虛擬環(huán)境、識(shí)別人口販賣的受害者、打敗國(guó)際象棋大師和 Dota 2 專家電子競(jìng)技隊(duì)、自動(dòng)駕駛。

以上這些只是 2018 年人工智能發(fā)展成就的一些例子，也是該領(lǐng)域迅速發(fā)展的佐證。麥肯錫全球研究所的分析師預(yù)測(cè)，按照目前的發(fā)展速度，僅在美國(guó)，人工智能將在未來 12 年內(nèi)獲得 20-25%的凈經(jīng)濟(jì)效益(全球?yàn)?13 萬億美元)。

一些最令人印象深刻的工作成果來自深度神經(jīng)網(wǎng)絡(luò)(DNN)方面的研究，DNN 是一種基于數(shù)據(jù)表示的機(jī)器學(xué)習(xí)架構(gòu)。三十年前，David Rumelhart、Geoffrey Hinton 和 Ronald Williams 在論文“反向傳播錯(cuò)誤的學(xué)習(xí)表征”中詳細(xì)介紹了一種基礎(chǔ)的權(quán)重計(jì)算技術(shù)——反向傳播。在成本日益下降、性能日益強(qiáng)大的計(jì)算機(jī)硬件的幫助下，反向傳播已經(jīng)在計(jì)算機(jī)視覺、自然語言處理、機(jī)器翻譯、藥物設(shè)計(jì)和材料檢測(cè)等方面的取得了巨大飛躍，在其中一些領(lǐng)域，DNN 生成的結(jié)果甚至超過了人類專家。

AGI 所面臨的挑戰(zhàn)

那么，DNN 會(huì)是超級(jí)智能機(jī)器人成為現(xiàn)實(shí)的一個(gè)預(yù)兆嗎?Demis Hassabis 并不這么認(rèn)為。Hassabis 是 DeepMind 的聯(lián)合創(chuàng)始人，DeepMind 是一家總部位于倫敦的機(jī)器學(xué)習(xí)創(chuàng)業(yè)公司，公司的使命是將神經(jīng)科學(xué)和計(jì)算機(jī)科學(xué)的見解應(yīng)用在通用人工智能(AGI)中——換句話說，AGI 系統(tǒng)可以成功執(zhí)行任何人類可以完成的智能任務(wù)。

Hassabis 在 12 月初于蒙特利爾舉行的 NeurIPS 2018 大會(huì)上說：“我們還有很長(zhǎng)的路要走。從某種程度上說，游戲或棋盤游戲其實(shí)非常簡(jiǎn)單，因?yàn)楦鞣N狀態(tài)之間的過渡模式非常易于學(xué)習(xí)，但現(xiàn)實(shí)世界中的 3D 環(huán)境和現(xiàn)實(shí)世界本身要復(fù)雜得多……”

Hassabis 是國(guó)際象棋神童、劍橋大學(xué)畢業(yè)生，在職業(yè)生涯早期，他擔(dān)任電子游戲 Theme Park 和 Black & White 的首席程序員。他還在倫敦大學(xué)學(xué)院、麻省理工學(xué)院和哈佛大學(xué)學(xué)習(xí)神經(jīng)科學(xué)，在那里，他與其他人一起研究自傳記憶和情景記憶系統(tǒng)。他于 2010 年共同創(chuàng)立了 DeepMind，并三年后推出了一個(gè)開創(chuàng)性的人工智能系統(tǒng)，這個(gè)系統(tǒng)使用原始像素作為輸入在 Atari 游戲中嶄露頭角。

后來谷歌以 4 億英鎊收購(gòu)了 DeepMind，在完成收購(gòu)之后，推出的 AlphaGo 一度占據(jù)了頭條位置。AlphaGo 是一個(gè)人工智能系統(tǒng)，在圍棋比賽中擊敗了世界冠軍李世石，并與倫敦大學(xué)醫(yī)院合作，開發(fā)出“接近人類水平”的 CT 掃描分割模型。最近，DeepMind 的研究人員推出了蛋白質(zhì)折疊算法—— AlphaFold——從 43 種蛋白質(zhì)中準(zhǔn)確識(shí)別出 25 種蛋白質(zhì)結(jié)構(gòu)，在第 13 次蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)技術(shù)評(píng)估(CASP)中獲得一等獎(jiǎng)。本月，DeepMind 在科學(xué)雜志上發(fā)表了一篇論文，介紹了 AlphaZero 系統(tǒng)，它是 AlphaGo 的繼任者，可以玩三種不同的游戲——國(guó)際象棋、一種叫做 shogi 的日本象棋，以及圍棋，并足以擊敗頂尖的人類玩家。

盡管 DeepMind 取得了令人矚目的成就，但 Hassabis 警告說，他們并不認(rèn)為 AGI 即將來臨。他說，與今天的人工智能系統(tǒng)不同，人們利用現(xiàn)實(shí)世界的內(nèi)在知識(shí)來進(jìn)行預(yù)測(cè)和規(guī)劃。與圍棋、國(guó)際象棋和日本象棋新手相比，AlphaGo 和 AlphaZero 在信息方面處于劣勢(shì)。

Hassabis 說，“這些 AI 系統(tǒng)首先要學(xué)會(huì)看，然后才能學(xué)會(huì)玩。相比算法，人類玩家可以更快地學(xué)會(huì)玩類似于 Atari 游戲的東西，因?yàn)樗麄兛梢院芸斓貙�圖案轉(zhuǎn)成像素，然后確定是要往前進(jìn)還是往后退”。

要讓 AlphaZero 這樣的模型擊敗人類，它需要在一個(gè)擁有數(shù)千個(gè)谷歌專門為機(jī)器學(xué)習(xí)設(shè)計(jì)的專用芯片的系統(tǒng)上進(jìn)行 700,000 個(gè)訓(xùn)練步驟——每個(gè)步驟代表 4,096 個(gè)棋盤位置。國(guó)際象棋需要訓(xùn)練約 9 個(gè)小時(shí)，日本象棋需要訓(xùn)練 12 個(gè)小時(shí)，圍棋需要 13 天。

DeepMind 并不是唯一家嘗試突破當(dāng)前 AI 設(shè)計(jì)局限性的公司。

在今年早些時(shí)候發(fā)表的一片博文中，OpenAI——一家位于舊金山由 Elon Musk、Reid Hoffman、Peter Thiel 以及其他技術(shù)名人支持的非營(yíng)利性人工智能研究公司——推出了 OpenAI Five，在今年夏天擊敗了 Dota 2 五人團(tuán)隊(duì)(其中有四名職業(yè) Dota 2 玩家)。OpenAI 表示，它每天都要在谷歌云平臺(tái)上(配備 256 塊 Nvidia Tesla P100 顯卡和 128,000 個(gè)處理器核心)玩游戲。但即使在完成所有訓(xùn)練之后，它仍然難以將獲得可以應(yīng)用于游戲之外的任務(wù)的技能。

Hassabis 說，“我們的系統(tǒng)無法以有效的方式將知識(shí)從一個(gè)領(lǐng)域轉(zhuǎn)移到另一個(gè)領(lǐng)域。構(gòu)建游戲模型相對(duì)比較容易，因?yàn)閺囊徊揭苿?dòng)到另一步是非常簡(jiǎn)單的，但我們希望能夠?qū)⑸�成模型能力灌輸給系統(tǒng)……這樣在這些環(huán)境中進(jìn)行規(guī)劃就變得更容易”。

現(xiàn)今的大多數(shù)人工智能系統(tǒng)的可擴(kuò)展性也較差。AlphaZero、AlphaGo 和 OpenAI Five 利用了一種叫作強(qiáng)化學(xué)習(xí)的編程范式，其中有一個(gè) AI 控制的軟件代理將學(xué)會(huì)在環(huán)境中采取行動(dòng)——例如，棋盤游戲或 MOBA——以最大化獎(jiǎng)勵(lì)。

Hinton 在接受采訪時(shí)說，可以想象一下 Skinner 盒子系統(tǒng)——它的名字源于哈佛大學(xué)先驅(qū)心理學(xué)家 B. F. Skinner——它利用操作性條件來訓(xùn)練動(dòng)物，讓它們做出動(dòng)作，例如按下控制桿、對(duì)光或聲音做出響應(yīng)。當(dāng)受試動(dòng)物做出正確的動(dòng)作，就會(huì)獲得某種形式的獎(jiǎng)勵(lì)，通常是食物或水。

Hinton 說，人工智能強(qiáng)化學(xué)習(xí)方法的問題在于獎(jiǎng)勵(lì)信號(hào)往往是“微弱的”。在某些環(huán)境中，代理無法從隨機(jī)數(shù)據(jù)中找到模式——即所謂的“嘈雜的電視問題”。

“每隔一段時(shí)間，你就會(huì)得到一個(gè)標(biāo)量信號(hào)，但頻率并不高，信息量也不大，而且你需要基于這些微弱的信號(hào)使用數(shù)百萬個(gè)參數(shù)或數(shù)萬億個(gè)參數(shù)來訓(xùn)練系統(tǒng)。你能做的是使用大量的計(jì)算——很多令人印象深刻的演示都依賴于大量的計(jì)算。這是一個(gè)方向，但它并不能真正吸引到我。我認(rèn)為研究人員需要的是更好的見解。”

Hinton 過去 30 年來一直在解決 AI 面臨的一些重大挑戰(zhàn)，現(xiàn)在主要專注于谷歌的 Brain 深度學(xué)習(xí)研究團(tuán)隊(duì)和多倫多大學(xué)。他被一些人稱為“深度學(xué)習(xí)教父”。除了在 DNN 方面的開創(chuàng)性工作之外，Hinton 還在機(jī)器學(xué)習(xí)、感知、記憶和符號(hào)處理等方面撰寫或合著了 200 多篇出版物，他最近將注意力轉(zhuǎn)向膠囊神經(jīng)網(wǎng)絡(luò)——包含有助于構(gòu)建更穩(wěn)定表示的結(jié)構(gòu)的機(jī)器學(xué)習(xí)系統(tǒng)。

他說，數(shù)十年的研究讓他確信解決強(qiáng)化學(xué)習(xí)可擴(kuò)展性問題的方法是利用結(jié)構(gòu)化架構(gòu)來放大信號(hào)。

Hinton 解釋說，“假設(shè)你有一個(gè)很大的組織，強(qiáng)化信號(hào)排在最前面，首席執(zhí)行官被告知公司今年獲得了大額利潤(rùn)——這就是他的強(qiáng)化信號(hào)。我們假設(shè)這種信號(hào)每個(gè)季度會(huì)出現(xiàn)一次。如果要訓(xùn)練一大堆人員來完成幾項(xiàng)任務(wù)，這些信號(hào)太弱了，但如果首席執(zhí)行官有一些副總裁，并給每位副總裁一個(gè)目標(biāo)，以便最大化他的獎(jiǎng)勵(lì)……那么這將帶來更多利潤(rùn)，他最終會(huì)得到獎(jiǎng)勵(lì)。”

Hinton 說，即使獎(jiǎng)勵(lì)沒有出現(xiàn)——也許是因?yàn)槭紫瘓?zhí)行官給副總裁設(shè)定了錯(cuò)誤的目標(biāo)——這個(gè)過程仍然會(huì)繼續(xù)。副總裁總是可以學(xué)到一些東西，這些東西在未來總會(huì)派上用場(chǎng)。

他補(bǔ)充說，“通過設(shè)定子目標(biāo)，并讓人們實(shí)現(xiàn)這些子目標(biāo)，你可以通過創(chuàng)造更多微軟的信號(hào)來放大這些它們”。

這是一個(gè)看似復(fù)雜的思想實(shí)驗(yàn)。這些副總裁實(shí)際上需要一個(gè)渠道——即中層和低層管理人員——來傳達(dá)目標(biāo)、子目標(biāo)和相關(guān)的獎(jiǎng)勵(lì)條件。系統(tǒng)中的每個(gè)“員工”都需要能夠決定他們是否做了正確的事情，這樣他們才能知道為什么會(huì)獲得獎(jiǎng)勵(lì)。所以他們需要一個(gè)語言系統(tǒng)。

Hinton 說，“這是一個(gè)讓系統(tǒng)的某些模塊為其他模塊創(chuàng)建子目標(biāo)的問題。你可以想象一下牧羊人。他們創(chuàng)造了一種非英語語言，訓(xùn)練有素的牧羊犬和牧羊人可以通過這種語言進(jìn)行很好的交流。但如果牧羊犬有自己的牧羊犬，那么它必須將從牧羊人那里獲得的東西(比如手勢(shì)等)形成一種可以與子牧羊犬交流的方式。”

幸運(yùn)的是，最近的一項(xiàng)叫作“Transformer”的 AI 突破可能正朝著正確方向邁出一步。

谷歌研究人員在去年的一篇博文和附帶論文“Attention Is All You Need”中介紹了一種新型神經(jīng)結(jié)構(gòu)——Transformer——能夠在語言翻譯任務(wù)中超越最先進(jìn)的模型，并且需要的訓(xùn)練計(jì)算量也較少。

谷歌于 11 月份開源了 Bidirectional Encoder Representations from Transformers(BERT)。BERT 通過預(yù)先訓(xùn)練可以從任意語料庫生成的任務(wù)來學(xué)習(xí)建立句子之間的關(guān)系，并讓開發(fā)人員可以在 30 分鐘內(nèi)基于一個(gè)云 TPU(張量處理單元，谷歌的云托管加速器硬件)或者在幾個(gè)小時(shí)內(nèi)基于單個(gè)圖形處理單元訓(xùn)練出“最先進(jìn)”的 NLP 模型。

Hinton 解釋說，“Transformer 其實(shí)是神經(jīng)網(wǎng)絡(luò)。在神經(jīng)網(wǎng)絡(luò)中，活動(dòng)變化很快，而權(quán)重變化緩慢。生物學(xué)告訴你，你需要做的是擁有快速變化的活動(dòng)，然后基于很多不同的時(shí)間尺度修改突觸，這樣你就可以記住最近發(fā)生的事情…… 或者很容易恢復(fù)記憶。使用 Transformer，一群神經(jīng)元會(huì)找到一些東西，而且不僅僅是將它們發(fā)送給它所連接的人——它還把它們發(fā)送給那些知道如何處理它們的人。”

這并不是一個(gè)新想法。Hinton 指出，在 20 世紀(jì) 70 年代，大多數(shù)關(guān)于神經(jīng)網(wǎng)絡(luò)的工作都集中在記憶上，目的是通過修改權(quán)重來存儲(chǔ)信息，這樣就可以重新創(chuàng)建信息，而不是簡(jiǎn)單地從某種形式的存儲(chǔ)中拉取。

他說，“你實(shí)際上并沒有像將文件保存在文件柜中那樣存儲(chǔ)信息——你修改參數(shù)，如果我給你一點(diǎn)東西，你就可以填充其余部分，就像根據(jù)一些碎片還原出一只恐龍一樣。我們應(yīng)該將這個(gè)想法用于短期記憶，而不僅僅是長(zhǎng)期記憶，它將解決各種各樣的問題”。

AI 和偏見

Hinton 認(rèn)為，從生物學(xué)的角度來看，未來的人工智能系統(tǒng)將主要是無監(jiān)督多樣性。無監(jiān)督學(xué)習(xí)——機(jī)器學(xué)習(xí)的一個(gè)分支，從未標(biāo)記和未分類的測(cè)試數(shù)據(jù)中收集知識(shí)——在學(xué)習(xí)共性和對(duì)它們的存在或不存在作出反應(yīng)的能力方面幾乎是與人類是一樣的。

他說，“一般來說，人們沒有標(biāo)記數(shù)據(jù)。我認(rèn)為這是一種更具生物學(xué)意義的學(xué)習(xí)方式……這也是大腦主要要做的事情”。

Hassabis 表示同意。

他說，“我們?cè)?DeepMind 正在致力于開發(fā)一種具有認(rèn)知能力的神經(jīng)科學(xué)路線圖，我們認(rèn)為這些認(rèn)知能力是為了擁有一個(gè)功能齊全的人類 AI 系統(tǒng)所必需的。它能夠轉(zhuǎn)移學(xué)習(xí)、概念知識(shí)(在某種意義上可能也是一種創(chuàng)造力)、想象未來的場(chǎng)景、反事實(shí)和未來規(guī)劃、語言使用和象征性推理。這些都是人類毫不費(fèi)力就可以完成的事情。”

然而，隨著人工智能越來越復(fù)雜，一些技術(shù)專家和倫理學(xué)家擔(dān)心它會(huì)吸收和反映現(xiàn)有訓(xùn)練數(shù)據(jù)中存在的偏見。事實(shí)上，有證據(jù)表明這類事情已經(jīng)發(fā)生過。

谷歌的 AI 研究科學(xué)家最近在一個(gè)免費(fèi)提供的開源數(shù)據(jù)集上設(shè)置了一個(gè)預(yù)訓(xùn)練的 AI 模型。一張照片——穿著西式長(zhǎng)裙和全裙式婚紗的白種人新娘——被標(biāo)記為“禮服”、“女性”、“婚禮”和“新娘”。然而，另一張照片——也是新娘的照片，但是是亞洲血統(tǒng)，穿的是民族服飾——被標(biāo)記為“服裝”、“事件”和“表演藝術(shù)”。更糟糕的是，模型完全遺漏了圖片中的人物。

與此同時(shí)，在 7 月份由華盛頓郵報(bào)委托進(jìn)行的一項(xiàng)研究中，亞馬遜和谷歌推出的智能音箱在識(shí)別語音時(shí)，對(duì)英語母語的人的口音識(shí)別成功率比非英語母語的人的口音識(shí)別成功率高 30%。IBM 和微軟等公司使用 Switchboard 語料庫來衡量語音模型錯(cuò)誤率，而這個(gè)數(shù)據(jù)集已被證明偏向了該國(guó)特定地區(qū)的用戶。

計(jì)算機(jī)視覺算法在偏見方面并沒有表現(xiàn)得更好。

2012 年發(fā)布的一項(xiàng)研究表明，Cognitec 的面部識(shí)別算法對(duì)白種人的識(shí)別成功率比非洲裔美國(guó)人高 5%至 10%。據(jù)透露，倫敦警察廳最近部署的系統(tǒng)每次都會(huì)產(chǎn)生多達(dá) 49 個(gè)錯(cuò)誤的匹配。在今年夏天的亞馬遜 Rekognition 服務(wù)測(cè)試中，美國(guó)公民自由聯(lián)盟證明，使用來自“公共資源”的 25,000 張照片，并將它們與國(guó)會(huì)成員的官方照片進(jìn)行比較，有 28 人被誤認(rèn)為是罪犯。

但 Hinton 并沒有因?yàn)檫@些負(fù)面新聞而氣餒。他認(rèn)為，人工智能的優(yōu)勢(shì)在于它所提供的靈活性——以及數(shù)據(jù)中的偏見是可建模的。

他說，“任何從數(shù)據(jù)中學(xué)到的東西也將學(xué)習(xí)到數(shù)據(jù)中的偏見。好在如果你可以對(duì)數(shù)據(jù)中的偏見進(jìn)行建模，你可以非常有效地抵消它們。有各種各樣的方法。”

他指出，但這并不總是適用于人類。

“如果有人在做這些工作，你可以嘗試對(duì)他們的偏見進(jìn)行建模，告訴他們，表現(xiàn)得沒有偏見并不能減少偏見。所以我認(rèn)為在機(jī)器學(xué)習(xí)系統(tǒng)中處理偏見要容易得多。”

在 Hinton 看來，一類新興的偏見消除工具有望引領(lǐng)更加公正的 AI 系統(tǒng)。

5 月份，F(xiàn)acebook 發(fā)布了 Fairness Flow，它會(huì)自動(dòng)警告一個(gè)算法是否根據(jù)一個(gè)人的種族、性別或年齡對(duì)其做出不公平的判斷。埃森哲發(fā)布了一個(gè)工具包，可自動(dòng)檢測(cè) AI 算法中的偏見，并幫助數(shù)據(jù)科學(xué)家減輕這種偏見。微軟于 5 月份推出了自己的解決方案，谷歌并于 9 月份推出了 What-If 工具——為 TensorFlow 機(jī)器學(xué)習(xí)框架提供的 TensorBoard Web 儀表盤偏見檢測(cè)功能。

IBM 在秋季發(fā)布了 AI Fairness 360，這是一款基于云的全自動(dòng)套件，不斷為 AI 系統(tǒng)如何做出決策并進(jìn)行推薦調(diào)整“提供見解”——例如算法調(diào)整或平衡數(shù)據(jù)——這可能會(huì)減輕受偏見的影響。最近，Watson 和 Cloud Platform 小組的研究重點(diǎn)是減輕 AI 模型中的偏見，特別是與面部識(shí)別相關(guān)的部分。

Hinton 說，“對(duì)于速度非�？斓挠�(jì)算機(jī)來說，你現(xiàn)在可以開發(fā)效率不是很高的軟件，這很容易理解，因?yàn)橛?jì)算機(jī)的速度可以抵消掉效率問題。人們不喜歡這樣做，但你喜歡這樣——你想讓你的代碼不是那么高效，這樣你就可以省心些……對(duì)于非常精確的事物，你可以讓它們變得不那么精確，以此來實(shí)現(xiàn)你想要的其他東西。在我看來這是一個(gè)公平的權(quán)衡。”

AI 和工作

對(duì)于人工智能對(duì)就業(yè)市場(chǎng)的影響，Hinton 也持樂觀態(tài)度。

“通用人工智能”這句話本身帶有這樣一種暗示，即這種機(jī)器人突然變得比你還聰明。但我認(rèn)為不會(huì)出現(xiàn)那種情況。我認(rèn)為越來越多的常規(guī)事情將被人工智能系統(tǒng)取代——比如谷歌智能助理。”

Forrester 分析師最近預(yù)測(cè)，機(jī)器人過程自動(dòng)化(RPA)和人工智能(AI)將會(huì)創(chuàng)造出數(shù)字工作者——軟件可以自動(dòng)執(zhí)行傳統(tǒng)上由人類執(zhí)行的任務(wù)——明年將有超過 40%的公司，而在 2019 年，美國(guó)大約有 10%的就業(yè)機(jī)會(huì)將被自動(dòng)化代替。此外，世界經(jīng)濟(jì)論壇、普華永道和 Gartner 預(yù)測(cè)，到 2025 年，人工智能可以替代多達(dá) 7500 萬個(gè)工作崗位。

但 Hinton 認(rèn)為AGI 不會(huì)讓人類變得多余。相反，他說，至少在不久的將來，它在大多數(shù)情況下對(duì)世界的理解都是很短視的。而且他相信，它會(huì)以小而有意義的方式繼續(xù)改善我們的生活。

他說，“未來的人工智能將會(huì)對(duì)你可能想要做的事情以及如何做到了解更多，而且它對(duì)你來說非常有用，但它不會(huì)取代你。但如果你使用一個(gè)為駕駛而開發(fā)的系統(tǒng)，并在它的處女駕中使用它，那可能會(huì)是一場(chǎng)災(zāi)難”。

Hinton 說，取代目前由人類完成的那些危險(xiǎn)的任務(wù)倒是朝著正確方向邁出的一步。

他說：“人們真正應(yīng)該害怕的是坐在一輛由巨大的神經(jīng)網(wǎng)絡(luò)控制的汽車上，這種神經(jīng)網(wǎng)絡(luò)不會(huì)告訴你它在做什么。它應(yīng)該被叫做出租車司機(jī)”。

英文原文：

https://venturebeat.com/2018/12/17/geoffrey-hinton-and-demis-hassabis-agi-is-nowhere-close-to-being-a-reality/

標(biāo)簽： 代碼 谷歌 網(wǎng)絡(luò)

版權(quán)申明：本站文章部分自網(wǎng)絡(luò)，如有侵權(quán)，請(qǐng)聯(lián)系：west999com@outlook.com
特別注意：本站所有轉(zhuǎn)載文章言論不代表本站觀點(diǎn)！
本站所提供的圖片等素材，版權(quán)歸原作者所有，如需使用，請(qǐng)與原作者聯(lián)系。