Quem desenvolveu com o Java 9 teve problemas ?

Penso que o java 9 realmente traz coisas interesssantes, mas como em tudo na vida tem bônus e ônus e por ser uma coisa nova, antes de ser produtivo e’ preciso dominar a tecnologia, e isso pode levar um tempinho.
Depois de dominado, valerá sim a pena, a modularização traz grandes benefícios assim como o projeto panama e outras coisas bem legais do java 9.

Quais recursos do java 9 você está usando no teu projeto? Por quê as versões anteriores não atendem ao que teu projeto precisa?

Java não foi projetado para este tempo. Então é o mínimo que estão fazendo para a plataforma tentar sobreviver. Na minha opinião deveriam fazer um trabalho limpo, criando uma nova plataforma, para ser usada em novos projetos.

É opção migrar ou não. Se pergunte por que está migrando, tem que ter motivos com retorno para valer o esforço.

Eu tive problemas com Lambda, e uma pequena incompatibilidade com algumas versões antigas do Tomcat. Demais, não tive problemas!

Aplicação Swing com Hibernate 5, JPA 2.1

De acordo com este link, o hibernate precisa de, ao menos, a versão 8 do java.
E, de acordo com este link, o JPA 2.1 é parte integrante da versão 7 da especificação JEE, sendo assim, você precisa da versão 8 do java.
Logo, não existe, dentro do que você diz que precisa, nenhuma motivação para uso do JDK 9.

A primeira reação que temos é a de reclamar. Eu fiz a mesma coisa ao descobrir, recentemente, que o JSF exige a presença de um novo jar, não basta, apenas, o mojarra, ele precisa de um jar para o CDI.
No meu entendimento (e sim, eu sou ortodoxo demais), JPA nunca deveria ser utilizado em um sistema desktop, pela simples razão de que você não está desenvolvendo uma aplicação JEE.
Eu entendi perfeitamente que teu problema é com relação ao JAXB.
Mas, entendo, também, que não existe critério técnico que te obrigue a usar a versão 9 do java (seja por conta da especificação do hibernate 5 ou da especificação do JPA que não exigem tal versão, mas, aceitam a 8).
Agora, se está utilizando JPA com uma aplicação Swing e, da mesma maneira, utilizando a versão 9 do JDK por que quer, então está ok. Aí é uma escolha pessoal (como eu disse, eu não faria tal escolha).

O problema é que se eu não usar JPA, tornará muito mais difícil migrar o projeto desse ERP para a web,e também uma das coisas que eu queria é não ser dependente de banco de dados. Como estou sozinho no projeto aprendo muitas coisas, por exemplo, enquanto eu estava programando com jpql classes que não tinham referência para outras classes estava tranquilo,mas quando tinha relacionamentos com outras classes (tabelas) aí utilizar a critéria api tornou menos complexo o código pelo menos por enquanto.

Web não depende de JPA. O peso do Hibernate é pior ainda para escalabilidade de aplicações Java no back-end.

Mas aí é que está a questão.
Vende-se uma ideia errada referente a uma ou outra tecnologia (ou todas) e a gente compra.
Eu comentei, dia desses, num outro post, que um dos erros mais comuns de quem aprende é achar que a ferramenta, ide, tecnologia, linguagem, SO, etc é a bala de prata. Mas não existe bala de prata. Existe o que se encaixa melhor a cada situação.
Teoricamente, esse seria o papel do arquiteto de software. Definir o que e como utilizar (linguagem, estrutura física, design pattern, etc). Ocorre que, a maioria (ao menos a maioria dos arquitetos que conheço) acaba virando fanboy desta ou daquela coisa. O que acaba arruinando tudo.
Como o @javaflex comentou, web não depende de JPA. E nem é tão ou mais complexo.
Sabe a ideia de independência de código que é prometido pelo MVC? Pois bem, eu sempre ´pensei que ela só é válida se você consegue arrancar toda uma camada e substituir com outra, sem grandes perdas ou maiores ajustes (é óbvio que precisa alterar alguma coisa aqui e ali).
Tudo o que está fazendo pode (e eu diria que deve) ser feito no java 8. Não tem necessidade de usar algo tão novo e tão pouco conhecido quando a versão 9 para isso.

Eu tive que voltar para o java 8, tava insustentável manter com o java 9, eclipse com erros em um simples package com uma classe e não encontrando classes.

Se vão modularizar o java a partir do java 9, penso eu que não precisaria afetar tanto uma simples aplicação desktop (Swing) que vai servir de projeto piloto para outra.
Java na minha humilde opinião é a linguagem (tecnologia) mais complexa de usar, para os que utilizam JEE pode saber o cara é bom em programação mesmo eu particularmente não sou bom no JEE prefiro o Spring boot.

Java porém é a linguagem do futuro e do presente e do passado, o meu medo é passar dois anos desenvolvendo um projeto desktop (só com swing, jpa e hibernate) e ele não ser compatível a cada nova versão do Java.

Projeto Web eu sei que é impossível manter compatibilidade seja qual linguagem for pois estão todos os dia atualizando o JavaScript, os protocolos web, sistema operacional e um monte de coisas.

Se usa Swing por que está se preocupando com evoluções?

Compatibilidade por muito tempo deixa a plataforma parada no tempo. E ainda assim pegaram muito leve nas decisões.

Deixa pra usar Java 9 quando de fato for fazer o projeto web. Nao existe simplesmente migrar, isso é conto de fadas, lembrando o que @darlan_machado falou sobre sobre MVC (por exemplo) . Deverá ser um novo projeto, sem vícios, com nova experiencia de uso, novo modelo com novas estratégias para regras de negocio, etc.