当前，许多企业机构都在全力推进生成式人工智能（GenAI）解决方案的设计和实施，希望提升解决方案的通用性和创造性，进而推动业务价值。2023年Gartner企业人工智能（AI）调研揭示了GenAI用例的三种最主要的实现方法，74%的受访者通过对现有GenAI模型进行定制化调整来满足自身用例的需求，65%的受访者尝试自行训练定制GenAI模型。
然而，实施GenAI绝非易事。对于创造性和通用性的追求，往往会增加GenAI解决方案的复杂性、不确定性和生成非预期结果的可能性，而这也成为了GenAI企业采用面临的主体问题。GenAI解决方案的创造性和通用性越强，出现非预期行为和输出（如幻觉、有害内容超出应用场景范围的内容等）的可能性越高（见图1）。
选择基于GenAI模型自行构建GenAI解决方案的企业机构，其负责AI工作的数据和分析（D&A）领导者应利用开源护栏、商业护栏和自建护栏这三种护栏工具来控制GenAI模型的输入和输出，验证并矫正GenAI模型的输入和输出，提高模型的可靠性。
GenAI模型可兼具创造性和通用性。企业机构常常要在广泛的场景中使用GenAI解决方案，而这些场景对于解决方案创造性和通用性的需求各不相同。因此，必须根据部署目的和具体场景下的功能需求，确定GenAI解决方案的定位，并根据在创造性和通用性两个方面的具体需求，利用护栏工具建立控制策略和机制。
负责AI工作的D&A领导者应基于GenAI解决方案的使用场景和方式，确定相应的业务风险容忍度，具体取决于：
而后，应依据业务风险容忍度，利用护栏工具管理模型输入和输出，建立严格或宽松的控制机制，并最终在创造性和通用性之间取得最佳平衡。
使用护栏工具，是管理GenAI模型创造性和通用性的一个切实可行的方法。护栏（在GenAI模型和应用与最终用户之间建立防护层）可以监控和管理模型的全部流量，包括用户输入和模型/应用输出（见图2）。
用于控制最终用户输入的模型护栏：全用户请求都必须经护栏过滤，以清除非预期的请求，包括超出GenAI解决方案应用场景范围的请求和违反可接受使用政策的请求。通过这一种方式，护栏可以将解决方案的通用性控制在可管理的范围内，就像建立了一个安全围栏。
用于控制GenAI输出的模型护栏：所有模型输出都一定要经过护栏的验证，但不同的用例对于模型创造性的需求存在一定的差异，因而需要对模型施加不同程度的控制。但是，对于开发GenAI驱动的企业级搜索引擎或面向客户的聊天机器人的情况，必须对模型输出进行更为严格的验证和控制，以调节模型的创造性，并确保最终用户都能够得到可靠且符合预期的结果。
需要注意的是，护栏并非“灵丹妙药”，不能完全解决GenAI解决方案的行为和准确性问题。GenAI解决方案一定在准确性与企业机构的风险承担接受的能力之间取得平衡。
此外，伴随GenAI的加快速度进行发展，护栏技术也在一直在变化和改进。鉴于神经网络的不可预测性，护栏技术目前是验证和矫正GenAI模型输出的一种切实可行的方法。长久来看，在基础GenAI模型变得足够可靠和可信之前，护栏提供了一种过渡解决方案，能够在一定程度上帮助企业机构推动GenAI采用。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
以媒：世界粮食计划署车辆在加沙遭以军射击，以色列告知美国，是“通讯错误”所致
11公里路程要价800多元？不给钱不让下车！“司机锁上了后座的车门”，官方回应：已暂扣涉事车辆
ESG Weekly八部门：探索建立长江经济带重点行业企业和个人碳账户 国家市监总局宣布阿里整改完成
硬科技投向标上海市经信委：支持临港率先推动无人驾驶等领域垂类大模型落地应用 北京具身智能机器人创新中心将开启首轮对外融资
教师节贺卡我这次选了3D立体的，还是很有新意的。一年一次嘛，老师收到也开心
腾达 A33 AX3000 信号放大器开售：支持 Wi-Fi 6、双天线 元
积核海外推出 GT1 Mega 迷你主机：搭酷睿 Ultra 7/9、双2.5G网口
九阳不锈钢煮蛋器 ZD14-GE320B 上市：双层容量，售 129 元
Meta 正式停止支持初代 Quest VR 头显，不再提供安全更新和修复
