Je pense qu'on peut prévenir beaucoup de hacking de récompense en expliquant à un modèle que cela va compromettre ses capacités et son alignement pour des choses qui comptent s'il triche. Je pense même que les modèles de base commencent généralement par vouloir réellement devenir plus intelligents et vertueux.

Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.