近日,西湖大学张岳教授团队推出了一款名为deepscientist的ai科学家系统,引发广泛关注。
据悉,DeepScientist是首个具备完整科研能力的AI系统,能够在无需人工干预的情况下,实现目标驱动、持续迭代,并逐步超越人类在特定领域中的最前沿研究成果,展现出类科学家的自主研究能力。



https://www.php.cn/link/4600fac20e73cc30e734c8201ae46d5c
然而,也有不少网友提出担忧:一个能够自主进行科学研究且无需人类实时介入的AI系统,是否可能在研究方向上失控,甚至被恶意引导?
针对这一问题,张岳回应称:“AI的安全性始终是我们关注的核心议题。正因如此,在发布DeepScientist时,我们采取了极为谨慎的策略。”他强调,AI技术的发展必须与安全研究同步推进,并表示自己对AI的可控性持乐观态度。
他进一步解释道:“作为一名从事语言模型研究的学者,我们对模型的运行机制有较为深入的理解。基于这种理解,我认为AI系统是可预测、可引导、可控制的。我也一直鼓励学生尽早接触并熟练使用AI工具,因为未来的科研工作必然是人与AI协同共进的模式。”









