Hello, today I’m releasing a big update! (Français plus bas)

It doesn’t add any content but greatly improve the performances of the game. Because it brings a lot of breaking changes, it will remain in experimental for some time. To use this new version download it directly on Itch.

Limitations

• The models KoboldAI/GPT-J-6B-Adventure and KoboldAI/GPT-J-6B-Skein aren’t supporting the new version yet.
• You have to redownload all the models.

Client

• Made compatible the client with the new server’s version.
• The AI’s files are now all stored in the same folder in models
• Added many new options to optimize the performances.
• Added an option to allow the server to download the AI by itself (It will be useful for custom models, later).

Server

• The server can now run the AI on both the GPU and CPU at the same time.
• No more memory peak when loading the AI
• Added an option to limit the memory used (for both the GPU and CPU)
• Added an option to write data in a folder instead of using the memory
• The config file has now much more options.

Full server’s changelog here

Bonjour, aujourd’hui je publie une mise à jour importante!

Elle n’ajoute pas de contenu mais améliore grandement les performances du jeu. Parce qu’il y a beaucoup de changements important, elle restera en expérimental pendant un certain temps. Pour utiliser cette nouvelle version téléchargez-la directement sur Itch.

Limitations

• Les modèles KoboldAI/GPT-J-6B-Adventure et KoboldAI/GPT-J-6B-Skein ne prennent pas encore en charge la nouvelle version.
• Il faut retélécharger tous les modèles.

Client

• Client maintenant compatible avec la nouvelle version du serveur.
• Les fichiers de l’IA sont maintenant tous stockés dans le même dossier dans models
• Ajout de nombreuses nouvelles options pour optimiser les performances.
• Ajout d’une option permettant au serveur de télécharger l’IA par lui-même (elle sera utile pour les modèles personnalisés, plus tard).

Serveur

• Le serveur peut maintenant exécuter l’IA sur le GPU et le CPU en même temps.
• Plus de pic de mémoire lors du chargement de l’IA
• Ajout d’une option pour limiter la mémoire utilisée (pour le GPU et le CPU)
• Ajout d’une option pour écrire des données dans un dossier au lieu d’utiliser la mémoire
• Le fichier de configuration a maintenant beaucoup plus d’options.

Changement complet ici