50-200万
AI可信安全中心岗位
某知名人工智能实验室
上海
5年
本科以上
2026.05.22
职位描述
基本信息:
所属行业:
所属部门:
AI可信安全中心
汇报对象:
工作地点:
上海
职位编号:
512989
系统安全青年科学家/青年研究员
职位概述:
我们正在寻找在系统安全和形式化验证领域有深厚造诣的伙伴。您将加入我们的核心研发团队,负责攻克下一代关键基础设施软件中最具挑战性的安全与可靠性问题。您的工作将不限于发现漏洞,而是从设计和证明层面,构建理论上可信赖的高安全等级系统。您将成为团队的技术领袖,推动我们在系统安全领域的核心技术能力达到世界领先水平。
主要职责:
设计与实现高安全架构:参与新一代安全操作系统或关键软件的安全架构设计,确保其具备可验证的安全属性。
前沿研究与技术攻关:跟踪国际学术界和工业界在形式化方法、系统安全等领域的最新进展,并将其转化为可行的技术方案。
开发验证工具链:改进或开发现代化的形式化验证工具、静态分析工具,提升验证的效率和自动化程度。
职位要求(Qualifications)
拥有计算机科学、软件工程、网络安全或相关专业的博士学位(或具备同等研究经验的顶尖硕士)。
在操作系统、程序验证、形式化方法等领域有3年以上的深入研究经验。
具备扎实的软件工程能力,精通C/C++/Rust至少一门系统级编程语言。
在顶级国际会议(如SOSP/OSDI, PLDI, POPL, IEEE S&P, USENIX Security, CCS等)上发表过论文者优先。
极强的自驱力和好奇心,对解决复杂技术问题充满热情。
出色的沟通能力,能够清晰地阐述复杂的技术概念。
具备团队协作精神和领导潜力。
大模型攻防青年科学家/青年研究员
职位概述:
我们正在寻找兼具深厚AI技术背景和网络安全实战经验的顶尖人才,加入我们的AI安全研究团队。您将作为核心成员,深入研究大模型全生命周期(训练、微调、推理)中的新型攻击与防御技术,设计并实现前沿的安全防护方案。
核心职责(任一)
前沿攻击研究:
深入研究并复现针对大模型的最新攻击技术,包括但不限于:提示注入(Prompt Injection)、对抗样本(Adversarial Examples)、后门攻击(Backdoor Attack)、成员推断攻击(Membership Inference)、模型窃取(Model Extraction) 和 模型反演(Model Inversion)。
构建自动化测试框架,对大模型进行系统性的安全评估,包括鲁棒性、隐私性、公平性等维度。
使用公开数据集(如Real Toxicity Prompts)和自研攻击工具,对模型进行红队测试(Red Teaming)
创新防御方案设计与实现:针对研究发现的威胁,设计并开发创新的防御策略。例如:
设计鲁棒的输入过滤与异常检测机制,抵御提示注入攻击。
研究基于参数高效微调(LoRA/QLoRA) 的安全增强方法。
探索模型量化(INT8/FP16)、模型清洗、稀疏激活网络等技术在提升模型鲁棒性中的应用。
开发基于云边端协同部署的安全推理架构。
任职要求
计算机科学、人工智能、网络安全或相关专业硕士及以上学历。
扎实的网络安全基础:熟悉常见攻击与防御原理,了解渗透测试、漏洞分析等方法。
在顶级安全或AI会议/期刊(如上述S&P, CCS, NeurIPS, ICML)上发表过相关论文。
有CTF竞赛(尤其是AI安全赛道)获奖经历。
熟悉联邦学习、差分隐私等隐私保护技术。
有将安全研究成果成功落地到生产环境的经验。
职位概述:
我们正在寻找在系统安全和形式化验证领域有深厚造诣的伙伴。您将加入我们的核心研发团队,负责攻克下一代关键基础设施软件中最具挑战性的安全与可靠性问题。您的工作将不限于发现漏洞,而是从设计和证明层面,构建理论上可信赖的高安全等级系统。您将成为团队的技术领袖,推动我们在系统安全领域的核心技术能力达到世界领先水平。
主要职责:
设计与实现高安全架构:参与新一代安全操作系统或关键软件的安全架构设计,确保其具备可验证的安全属性。
前沿研究与技术攻关:跟踪国际学术界和工业界在形式化方法、系统安全等领域的最新进展,并将其转化为可行的技术方案。
开发验证工具链:改进或开发现代化的形式化验证工具、静态分析工具,提升验证的效率和自动化程度。
职位要求(Qualifications)
拥有计算机科学、软件工程、网络安全或相关专业的博士学位(或具备同等研究经验的顶尖硕士)。
在操作系统、程序验证、形式化方法等领域有3年以上的深入研究经验。
具备扎实的软件工程能力,精通C/C++/Rust至少一门系统级编程语言。
在顶级国际会议(如SOSP/OSDI, PLDI, POPL, IEEE S&P, USENIX Security, CCS等)上发表过论文者优先。
极强的自驱力和好奇心,对解决复杂技术问题充满热情。
出色的沟通能力,能够清晰地阐述复杂的技术概念。
具备团队协作精神和领导潜力。
大模型攻防青年科学家/青年研究员
职位概述:
我们正在寻找兼具深厚AI技术背景和网络安全实战经验的顶尖人才,加入我们的AI安全研究团队。您将作为核心成员,深入研究大模型全生命周期(训练、微调、推理)中的新型攻击与防御技术,设计并实现前沿的安全防护方案。
核心职责(任一)
前沿攻击研究:
深入研究并复现针对大模型的最新攻击技术,包括但不限于:提示注入(Prompt Injection)、对抗样本(Adversarial Examples)、后门攻击(Backdoor Attack)、成员推断攻击(Membership Inference)、模型窃取(Model Extraction) 和 模型反演(Model Inversion)。
构建自动化测试框架,对大模型进行系统性的安全评估,包括鲁棒性、隐私性、公平性等维度。
使用公开数据集(如Real Toxicity Prompts)和自研攻击工具,对模型进行红队测试(Red Teaming)
创新防御方案设计与实现:针对研究发现的威胁,设计并开发创新的防御策略。例如:
设计鲁棒的输入过滤与异常检测机制,抵御提示注入攻击。
研究基于参数高效微调(LoRA/QLoRA) 的安全增强方法。
探索模型量化(INT8/FP16)、模型清洗、稀疏激活网络等技术在提升模型鲁棒性中的应用。
开发基于云边端协同部署的安全推理架构。
任职要求
计算机科学、人工智能、网络安全或相关专业硕士及以上学历。
扎实的网络安全基础:熟悉常见攻击与防御原理,了解渗透测试、漏洞分析等方法。
在顶级安全或AI会议/期刊(如上述S&P, CCS, NeurIPS, ICML)上发表过相关论文。
有CTF竞赛(尤其是AI安全赛道)获奖经历。
熟悉联邦学习、差分隐私等隐私保护技术。
有将安全研究成果成功落地到生产环境的经验。
职位要求
学历要求:
本科以上
性别要求:
不限
语言要求:
不限
年龄要求:
27岁-43岁
工作年限:
5年
企业介绍
展开信息
猎头信息
YoYo
行业:
职位:40
