Tag: AI 安全声明

为何科技公司都持「AI 末日论」?吴恩达:他们希望引起恐慌,藉此主导市场

AI 大神、Google Brain 联合创办人吴恩达(Andrew Ng)近日在接受媒体采访时表示,一些大型科技公司正在大型人工智慧(AI)可能带来的风险这件事情上「撒谎」,为的要引起恐慌以及严格的监管,以阻止更多的竞争者出现,主导市场。

吴恩达近日对大型公司所持的 AI 末日论提出批评,这些公司不断告诉大众「AI 可能会导致人类的灭绝」,藉由引发恐惧来游说立法者立下严格的法律,「肯定有一些大型科技公司不想与开源竞争,因此他们制造了『AI 可能导致人类灭绝』的恐惧。这一直是游说者主张立法的武器,而这对开源社区来说是非常有害的。」

今年 5 月,一批 AI 专家与企业执行长共同签署了 AI 安全声明,并将 AI 带来的风险与核战、流行疾病等相提并论,包括 OpenAI 执行长 Sam Altman、Google DeepMind 执行长 Demis Hassabis 和 Anthropic 执行长 Dario Amodei 都在公开声明中署名。 Elon Musk 则曾经签署一份公开信,要求暂停开发高阶 AI 6 个月。

吴恩达表示,人工智慧可能消灭人类的想法可能会导致要求人工智慧许可的政策提案,这可能会破坏创新。他补充说,任何必要的人工智慧监管都应该要深思熟虑地制定。…