Как отслеживать сообщения, содержащие оскорбительный характер, содержащих элементы насилия и тд.?
На счет ссылок: можно работать кардинально и вообще их запретить, если это плохой вариант для вас, тогда создайте промежуточную страницу, где будете предупреждать, что этот сайт может нанести вред вашему компьютеру, сознания и вообще там могут быть сиськи.
Если и это вас не устраивает, то попробуйте это API: https://www.mywot.com/wiki/API.
Для того, чтобы избавиться от людей, которые хотят выложить фото 18+, есть API: sightengine.com, оно платное. Есть бесплатный аналог от Microsoft - https://dev.projectoxford.ai/docs/services/54ef139...
1. постмодерация — разрешите пользователям жаловаться на сообщения и реагируйте по факту жалоб.
2. существуют системы, автоматически определяющие тон сообщения и тематику, их можно научить автоматически блокировать подозрительные сообщения.
Обычно используют два этих способа. Начинают с первого и постепенно внедряют второй. Для второго 100% есть сервисы, уже реализующие нужный функционал, но они могут быть дороги. Альтернатива — разработать что-то своё, но нужен эксперт по анализу данных.