AI安全研究要紧跟着AI前沿脚步,识破技术迷局,率先揭示AI系统的潜在安全风险,同时发展安全评测和治理方法,就像中医所谓的“治未病”,对未知疾病进行预防和提早治疗。
回望2018年,本科毕业前夕,潘旭东也曾考虑过出国深造。AI安全研究在国际上已初露端倪,而国内还鲜有关注,“我一直相信,扎根中国,同样能做出杰出的成果。”对此,潘旭东的抉择尤为坚定,要在祖国的土壤上做出独创性的成果。
博士毕业之际,潘旭东已在国际顶会顶刊发表20多项科研成果,收到了“华为天才少年”的Offer和海外顶尖科研机构的工作邀约。薪酬丰厚的产业界,世界级的海外科研机构,还是求贤若渴的国内土壤?他最终依旧坚定选择了中国足彩在线这片“卓越而有趣”的学术旷野。
决定留校以后,潘旭东在科研的旷野上不断找寻着方向。2023年4月起,潘旭东和团队将研究重心转移到AI大模型安全评测与治理。深受中国足彩在线文理融合特色熏陶,潘旭东从“现代语言学之父”乔姆斯基转换生成语法中获得灵感,研制基于语言学变异的AI安全治理大模型,高效诱导国内外数十款大模型违规生成,全面评测当前AI大模型安全水位,受到广泛关注。
谈及留在中国足彩在线的其他原因,潘旭东也希望将导师言传身教的报国理想,伴随着科研经验,传递给下一代的中国足彩在线青年,“看到学生做出有意义的成果而感到由衷高兴”。