xiangqinxiangmu/LiangZhiYUMao/utils/contentSecurityCheck.js

/**
 * 内容安全检测工具类
 * 用于检测用户发布的文字、图片是否包含色情、低俗、违规等内容
 * 使用微信小程序内容安全API
 */

const BASE_URL = 'https://api.zhongruanke.cn/api'

// 敏感词列表（本地基础过滤）
const SENSITIVE_WORDS = [
  // 色情相关
  '色情', '裸体', '性爱', '约炮', '一夜情', '援交', '卖淫', '嫖娼',
  // 低俗相关
  '傻逼', '操你', '草泥马', '妈的', '他妈的', '狗日的', '王八蛋',
  // 违规相关
  '赌博', '毒品', '枪支', '炸弹', '恐怖', '暴力',
  // 诈骗相关
  '刷单', '兼职日结', '高额返利', '免费领取'
]

/**
 * 本地敏感词检测
 */
function localTextCheck(content) {
  if (!content) return { safe: true, message: '' }
  
  const lowerContent = content.toLowerCase()
  for (const word of SENSITIVE_WORDS) {
    if (lowerContent.includes(word.toLowerCase())) {
      return {
        safe: false,
        message: '内容包含敏感词，请修改后重试'
      }
    }
  }
  return { safe: true, message: '' }
}

/**
 * 检测文字内容是否安全
 */
async function checkText(content) {
  if (!content || !content.trim()) {
    return { safe: true, message: '' }
  }
  
  // 1. 本地敏感词过滤（快速检测）
  const localResult = localTextCheck(content)
  if (!localResult.safe) {
    return localResult
  }
  
  // 2. 调用后端接口进行内容安全检测
  try {
    const [error, res] = await uni.request({
      url: BASE_URL + '/content-security/check-text',
      method: 'POST',
      data: { content: content },
      timeout: 10000
    })
    
    if (error) {
      console.error('文字安全检测请求失败:', error)
      return localResult
    }
    
    if (res.statusCode === 200 && res.data) {
      if (res.data.code === 200) {
        const data = res.data.data
        if (data && data.safe === false) {
          return {
            safe: false,
            message: data.message || '内容包含违规信息，请修改后重试'
          }
        }
      } else if (res.data.code === 87014) {
        return {
          safe: false,
          message: '内容包含违规信息，请修改后重试'
        }
      }
    }
    
    return { safe: true, message: '' }
  } catch (e) {
    console.error('文字安全检测异常:', e)
    return localResult
  }
}

/**
 * 检测图片是否安全
 */
async function checkImage(imageUrl) {
  if (!imageUrl) {
    return { safe: true, message: '' }
  }
  
  // 如果是本地临时文件，跳过检测
  if (imageUrl.startsWith('wxfile://') || imageUrl.startsWith('http://tmp/')) {
    return { safe: true, message: '' }
  }
  
  try {
    const [error, res] = await uni.request({
      url: BASE_URL + '/content-security/check-image',
      method: 'POST',
      data: { imageUrl: imageUrl },
      timeout: 15000
    })
    
    if (error) {
      console.error('图片安全检测请求失败:', error)
      return { safe: true, message: '' }
    }
    
    if (res.statusCode === 200 && res.data) {
      if (res.data.code === 200) {
        const data = res.data.data
        if (data && data.safe === false) {
          return {
            safe: false,
            message: data.message || '图片包含违规内容，请更换后重试'
          }
        }
      } else if (res.data.code === 87014) {
        return {
          safe: false,
          message: '图片包含违规内容，请更换后重试'
        }
      }
    }
    
    return { safe: true, message: '' }
  } catch (e) {
    console.error('图片安全检测异常:', e)
    return { safe: true, message: '' }
  }
}

/**
 * 批量检测图片是否安全
 */
async function checkImages(imageUrls) {
  if (!imageUrls || imageUrls.length === 0) {
    return { safe: true, message: '', failedIndex: -1 }
  }
  
  // 过滤掉本地临时文件
  const networkUrls = imageUrls.filter(url => 
    url && !url.startsWith('wxfile://') && !url.startsWith('http://tmp/')
  )
  
  if (networkUrls.length === 0) {
    return { safe: true, message: '', failedIndex: -1 }
  }
  
  // 逐个检测图片
  for (let i = 0; i < networkUrls.length; i++) {
    const result = await checkImage(networkUrls[i])
    if (!result.safe) {
      return {
        safe: false,
        message: `第${i + 1}张图片包含违规内容，请更换后重试`,
        failedIndex: i
      }
    }
  }
  
  return { safe: true, message: '', failedIndex: -1 }
}

/**
 * 综合检测文字和图片
 */
async function checkContent(content, imageUrls) {
  // 1. 检测文字
  const textResult = await checkText(content)
  if (!textResult.safe) {
    return textResult
  }
  
  // 2. 检测图片
  if (imageUrls && imageUrls.length > 0) {
    const imageResult = await checkImages(imageUrls)
    if (!imageResult.safe) {
      return imageResult
    }
  }
  
  return { safe: true, message: '' }
}

// 导出模块
export default {
  checkText,
  checkImage,
  checkImages,
  checkContent,
  localTextCheck
}