人工智能在各种任务上都取得了巨大的成功，比如进行面部识别和驾驶自动驾驶汽车，但人们对科技对社会的负面影响有着明显的担忧，比如人们失去工作的自动化程度，以及新一代武器的危险。
美国国家先进工业科技研究院人工智能研究中心副主任Hideki Asoh在近期接受日本共同社采访时说:“对于人工智能来说，设计出有利于人类的设计方法是至关重要的。”

一些杰出的研究人员和人工智能社区的先驱，包括麻省理工学院的马克斯·特格马克教授和加州大学伯克利分校的斯图尔特·拉塞尔教授，在人工智能安全的讨论中获得了全世界的关注。

旨在确保科技造福人类的慈善和外展组织“生命研究所”(Future of Life Institute)发表了一封公开信，鼓励包括研究人员和知名企业家在内的8000多人签署了一份强有力的、有益的人工智能。

信中写道:“由于人工智能的巨大潜力，研究如何在避免潜在陷阱的同时获得好处是很重要的。”

“我们建议扩大研究，以确保越来越有能力的人工智能系统是强大和有益的:我们的人工智能系统需要做我们想让他们做的事情。”

此外，近年来，杰出的研究者们签署了另一份公开信表达他们对攻击性的”自主武器”的担忧，这是人类无法控制的

自主武器是军事系统，能够在没有外界干预的情况下实现目标。一个例子是一个武装的四轴飞行器，它可以搜索并“消灭”人类的目标，但根据这信，巡航导弹或远程无人驾驶的无人驾驶飞机，也不属于自动武器类别。

这封信指出了“发动军事AI军备竞赛”的危险，同时指出“人工智能有许多方法可以使战场更安全，特别是平民，而不需要制造新的杀人工具。”

“我想我们需要一份协议来制定某种控制机制，就像我们在核武器上的那样，”阿苏说。

为了进一步发展有益的人工智能，关键是要弄清楚如何利用数据，以及在哪些领域，日本可以利用人工智能在医药、医疗和制造业中获益。

“例如，在医药和医疗领域，人工智能的利用带来了数据驱动的个性化和定制，成本合理，”Asoh说。

在人工智能(AI)之前，一个更传统的“一刀切”的方法，很少考虑个体差异，这是很普遍的，但有些人对特定的治疗没有很好的反应。

因此，服务提供者需要进行试验，以确定哪些药物适用于哪些人群，例如，在癌症药物治疗中。

Asoh指出，由于近期物联网服务和技术的普及，大量的数据在各个领域都具有可收藏性。

他说，如果有数据，人工智能可以更准确地预测特定疾病的治疗和预防方法对某些人起作用，这可能导致在较佳情况下减少浪费，从而控制医疗成本。

关于自动驾驶汽车已经处于积极开发和测试阶段，Asoh说，“我认为技术上，(AI)已经达到了比人类更安全的驾驶水平”，同时也注意到有一些障碍需要被清除，以使这项技术得到广泛应用。
“人工智能不会累，它拥有360度视觉。”与人类司机相比，这是一个相当大的优势。

与人工智能不同的是，在伯克利的电子工程和计算机科学系的网站上，针对特定的、狭窄的任务，比如面部识别和自动驾驶，罗素解释了人工智能和人工智能。

根据Russell的说法，AGI是一个旨在强调构建通用智能系统的目标，该系统可以适用于类似人类的一系列认知任务，而ASI则大大优于人类智能。

“很难在这个问题上做一个明确的预测作为研究人员,但我认为不太可能超智完全超过人类各领域将出现在2045年,一些人担心,而AI将超越人类智慧在一个狭窄的范围内的任务,因为它已经发生在某些领域,“Asoh说。

在各种类型的人工智能中，Asoh建议日本应该更多地关注有利于人工智能的发展，比如解决人口老龄化问题。

“日本人口老龄化速度很快，我们需要做些什么来解决这个问题。”此外，从全球竞争力的角度来看，我们一定要把我们的工作的要点放在这类人工智能上。

他说:“据说日本在引进它时失败了，我们不能在人工智能领域重复同样的错误。”