Я столкнулся с аналогичной проблемой, вам нужно включить CLASSPATH в вашу команду (если она не в окружении vars). Так должно быть:
java -classpath C:lucenelucene-5.1.0corelucene-core-5.1.0.jar;C:lucenelucene-5.1.0queryparserlucene-queryparser-5.1.0.jar;C:lucenelucene-5.1.0analysiscommonlucene-analyzers-common-5.1.0.jar;C:lucenelucene-5.1.0demolucene-demo-5.1.0.jar org.apache.lucene.demo.IndexFiles -docs C:lucenelucene-5.1.0
И для поиска, вы бы сделали:
java -classpath C:lucenelucene-5.1.0corelucene-core-5.1.0.jar;C:lucenelucene-5.1.0queryparserlucene-queryparser-5.1.0.jar;C:lucenelucene-5.1.0analysiscommonlucene-analyzers-common-5.1.0.jar;C:lucenelucene-5.1.0demolucene-demo-5.1.0.jar org.apache.lucene.demo.SearchFiles