Call llama_backend_init()/llama_backend_free()

justlm_llama.hpp

@@ -347,10 +347,8 @@ public:
         return get_state()->prompt;
     }
 
-#if LLAMA_DATE >= 230519
     bool is_mirostat_available() const noexcept override {
         return true;
     }
-#endif
 };
 }

llama.cpp

@@ -30,3 +30,14 @@ LM::Inference *construct(const std::string &weights_path, std::ifstream& f, cons
     return new LM::LLaMAInference(weights_path, p);
 }
 }
+
+
+__attribute__((constructor))
+static void init() {
+    llama_backend_init(true);
+}
+
+__attribute__((destructor))
+static void deinit() {
+    llama_backend_free();
+}