자답입니다..
JNIEXPORT jbyteArray JNICALL Java_co_kr_jni_nativeTest(JNIEnv *env, jboolean debug)
-->
JNIEXPORT jbyteArray JNICALL Java_co_kr_jni_nativeTest(JNIEnv *env, jobject obj, jboolean debug)
위와 같이 jobject obj 가 추가 되어야 합니다.
감사합니다.