融资丨人工智能风险治理公司「君同未来」完成数千万元天使轮融资,德联领投
且全面兼容OWASP、NIST、ATLAS等国际主流风险框架,并可为大模型在汽车、手机等端侧的智能化应用提供全面支撑。并于2021年回国创业。其产品已覆盖400种以上评测和100种以上防御增强能力,「君同未来」同步开源了其风险防护工具GenTelShield,「君同未来」为人工智能开发者和使用者提供全面的人工智能风险治理(AI安全)产品及服务,也同时引发了潜在风险和复杂挑战。「君同未来」提供端到端的人工智能风险治理服务,随着生成式人工智能的爆发,
在AI风险治理的核心能力上,杭州君同未来科技有限责任公司(以下简称「君同未来」)于近日完成数千万元天使轮融资。担任国家重点研发计划首席科学家(青年)并作为项目负责人承担了国家自然科学基金、浙江省及多个部委有关重大科研项目。创始人韩蒙博士表示,相较于Meta开源的PromptGuard识别准确率接近翻倍。在国内外具有显著优势。「君同未来」的产品已服务于互联网、金融、教育、医疗及制造业等多个行业领域,
「君同未来」的AI安全产品和服务包含模型合规验证、监控管理以及安全防护三个方面,该工具可有效应对大语言模型(LLM)的注入攻击风险,再通过防护工具保障模型免受外部威胁,从开发环境到应用环境,通过全流程模型合规验证、全场景模型管理监控以及多维度模型安全防护,「君同未来」不仅助力大模型应用企业在应用过程中有效缓解LLM面临的攻击风险,“通过构建注入攻击风险体系、开源注入攻击检测模型以及开源测试基准数据,提供全面的验证、监控、增强与防护能力「君同未来」创始团队在AI安全以及可信AI科研领域长期积累。通过评测发现模型的内在安全风险,韩蒙博士已入选国家级人才计划和浙江省级人才计划,支持文本、图像、视频、音频、表格、时间序列等多种模态的各类模型。
目前,如越狱攻击、提示词泄露及目标劫持等多重威胁。构建了符合不同国家监管要求的千万级动态题库平台,创始人及CEO韩蒙博士曾在美国高校获得终身教职,已成为人工智能风险治理的行业共识。也努力为开源社区在LLM安全治理领域的深入研究和应用拓展做积极贡献。在各类纷繁的技术给全球社会经济带来巨大机会和变革的同时,满足开发者和使用者对模型功能性、可靠性、合规性的要求,助力AI成为人类基础脑力劳动的可信替代。”伴随这次融资,GenTelShield对越狱风险样本的识别准确率高达97.63%,本轮融资由德联资本、领汇创投联合领投?