探究澳大利亚对医疗器械人工智能应用的备注​

澳大利亚对医疗器械人工智能应用有以下重要备注：

监管范畴界定明确：当人工智能用于疾病的诊断、预防、监测、预测、预后、治疗或减轻疾病、损伤或残疾时，将其作为医疗器械进行监管。包括任何应用程序、网站、程序、基于互联网的服务或软件包，无论是在手表、手机、平板电脑、笔记本电脑或其他计算机上，还是作为硬件医疗器械的一部分，亦或是具有云组件的生态系统的一部分或独立产品，均在监管范围内。例如，通过手机照片辅助诊断黑色素瘤的应用程序、预测患者病情恶化的云分析、为消费者或医疗人员提供治疗建议的聊天机器人等。

生成式人工智能严格监管：若包含生成式人工智能（如大型语言模型、文本生成器和多模态生成式人工智能）的软件符合医疗器械定义，则按医疗器械进行监管。临床和技术证据必须证明使用生成式人工智能产品的安全性、可靠性和性能达到与其他医疗器械相同的标准，对于高风险产品，要求更为严格。若产品无医疗目的或不符合《1989年治疗用品法》第41bd条对医疗器械的定义，则不太可能被视为医疗器械，不受其监管。当大型语言模型或聊天机器人具有医疗目的并提供给澳大利亚人使用时，可能需遵守软件的医疗器械法规并需得到批准。

证据要求清晰具体：对于使用人工智能或机器学习的软件，制造商除满足一般软件要求外，还需拥有足够透明的证据，以评估产品的安全性和性能。这包括人工智能/机器学习模型目标的总体陈述、算法和模型设计（包括使用的调优技术）、用于训练和测试的数据（及其适用性和可推广性）、数据集规模需足够大以具有统计可信度、数据所基于的人群信息以及该数据适用于澳大利亚人群及目标亚人群的理由，还需有应对过拟合、偏差、数据漂移等性能退化风险的风险管理措施。

开发者责任明晰：若开发者在其产品或服务中改编、构建或整合大型语言模型并提供给澳大利亚的用户或患者，则该开发者被视为制造商，需承担《1989年治疗用品法》第41bd条规定的义务。开发者需了解并证明用于训练和测试模型的文本输入的来源和质量，以及在临床研究中数据如何具有可推广性且适用于澳大利亚人群。