2025-08-02 00:18:09 +03:00
|
|
|
|
use crate::s3_utils::get_s3_filelist;
|
2025-09-02 14:00:54 +03:00
|
|
|
|
use crate::security::SecurityConfig;
|
2025-09-03 10:21:17 +03:00
|
|
|
|
use crate::thumbnail::cleanup_cache;
|
2024-08-31 03:32:37 +03:00
|
|
|
|
use actix_web::error::ErrorInternalServerError;
|
|
|
|
|
|
use aws_config::BehaviorVersion;
|
2025-09-01 22:58:03 +03:00
|
|
|
|
use aws_sdk_s3::{Client as S3Client, config::Credentials};
|
2025-08-02 00:18:09 +03:00
|
|
|
|
use log::warn;
|
2025-09-01 22:58:03 +03:00
|
|
|
|
use redis::{AsyncCommands, Client as RedisClient, aio::MultiplexedConnection};
|
2025-09-22 01:23:16 +03:00
|
|
|
|
use std::{env, sync::Arc, time::Duration};
|
|
|
|
|
|
use tokio::sync::Mutex;
|
|
|
|
|
|
|
|
|
|
|
|
/// Redis Connection Pool
|
|
|
|
|
|
#[derive(Clone)]
|
|
|
|
|
|
pub struct RedisConnectionPool {
|
|
|
|
|
|
client: RedisClient,
|
|
|
|
|
|
max_connections: usize,
|
|
|
|
|
|
connections: Arc<Mutex<Vec<MultiplexedConnection>>>,
|
|
|
|
|
|
timeout: Duration,
|
|
|
|
|
|
}
|
|
|
|
|
|
|
|
|
|
|
|
impl RedisConnectionPool {
|
|
|
|
|
|
/// Создает новый connection pool
|
|
|
|
|
|
pub async fn new(
|
|
|
|
|
|
redis_url: String,
|
|
|
|
|
|
max_connections: usize,
|
|
|
|
|
|
timeout: Duration,
|
|
|
|
|
|
) -> Result<Self, redis::RedisError> {
|
|
|
|
|
|
let client = RedisClient::open(redis_url)?;
|
|
|
|
|
|
let connections = Arc::new(Mutex::new(Vec::new()));
|
|
|
|
|
|
|
|
|
|
|
|
let pool = Self {
|
|
|
|
|
|
client,
|
|
|
|
|
|
max_connections,
|
|
|
|
|
|
connections,
|
|
|
|
|
|
timeout,
|
|
|
|
|
|
};
|
|
|
|
|
|
|
|
|
|
|
|
// Предварительно создаем несколько соединений
|
|
|
|
|
|
pool.warm_up_connections(3).await?;
|
|
|
|
|
|
|
|
|
|
|
|
Ok(pool)
|
|
|
|
|
|
}
|
|
|
|
|
|
|
|
|
|
|
|
/// Предварительно создает соединения для пула
|
|
|
|
|
|
async fn warm_up_connections(&self, count: usize) -> Result<(), redis::RedisError> {
|
|
|
|
|
|
let mut connections = self.connections.lock().await;
|
|
|
|
|
|
|
|
|
|
|
|
for _ in 0..count.min(self.max_connections) {
|
|
|
|
|
|
match tokio::time::timeout(self.timeout, self.client.get_multiplexed_async_connection())
|
|
|
|
|
|
.await
|
|
|
|
|
|
{
|
|
|
|
|
|
Ok(Ok(conn)) => {
|
|
|
|
|
|
connections.push(conn);
|
|
|
|
|
|
}
|
|
|
|
|
|
Ok(Err(e)) => {
|
|
|
|
|
|
warn!("Failed to create Redis connection during warm-up: {}", e);
|
|
|
|
|
|
return Err(e);
|
|
|
|
|
|
}
|
|
|
|
|
|
Err(_) => {
|
|
|
|
|
|
warn!("Timeout creating Redis connection during warm-up");
|
|
|
|
|
|
return Err(redis::RedisError::from((
|
|
|
|
|
|
redis::ErrorKind::IoError,
|
|
|
|
|
|
"Connection timeout",
|
|
|
|
|
|
)));
|
|
|
|
|
|
}
|
|
|
|
|
|
}
|
|
|
|
|
|
}
|
|
|
|
|
|
|
|
|
|
|
|
warn!(
|
|
|
|
|
|
"✅ Redis connection pool warmed up with {} connections",
|
|
|
|
|
|
connections.len()
|
|
|
|
|
|
);
|
|
|
|
|
|
Ok(())
|
|
|
|
|
|
}
|
|
|
|
|
|
|
|
|
|
|
|
/// Получает соединение из пула
|
|
|
|
|
|
pub async fn get_connection(&self) -> Result<MultiplexedConnection, redis::RedisError> {
|
|
|
|
|
|
let mut connections = self.connections.lock().await;
|
|
|
|
|
|
|
|
|
|
|
|
// Пытаемся взять существующее соединение
|
|
|
|
|
|
if let Some(conn) = connections.pop() {
|
|
|
|
|
|
return Ok(conn);
|
|
|
|
|
|
}
|
|
|
|
|
|
|
|
|
|
|
|
// Если соединений нет, создаем новое
|
|
|
|
|
|
drop(connections); // Освобождаем мьютекс
|
|
|
|
|
|
|
|
|
|
|
|
match tokio::time::timeout(self.timeout, self.client.get_multiplexed_async_connection())
|
|
|
|
|
|
.await
|
|
|
|
|
|
{
|
|
|
|
|
|
Ok(Ok(conn)) => Ok(conn),
|
|
|
|
|
|
Ok(Err(e)) => {
|
|
|
|
|
|
warn!("Failed to create new Redis connection: {}", e);
|
|
|
|
|
|
Err(e)
|
|
|
|
|
|
}
|
|
|
|
|
|
Err(_) => {
|
|
|
|
|
|
warn!("Timeout creating new Redis connection");
|
|
|
|
|
|
Err(redis::RedisError::from((
|
|
|
|
|
|
redis::ErrorKind::IoError,
|
|
|
|
|
|
"Connection timeout",
|
|
|
|
|
|
)))
|
|
|
|
|
|
}
|
|
|
|
|
|
}
|
|
|
|
|
|
}
|
|
|
|
|
|
|
|
|
|
|
|
/// Возвращает соединение обратно в пул
|
|
|
|
|
|
pub async fn return_connection(&self, conn: MultiplexedConnection) {
|
|
|
|
|
|
let mut connections = self.connections.lock().await;
|
|
|
|
|
|
|
|
|
|
|
|
if connections.len() < self.max_connections {
|
|
|
|
|
|
connections.push(conn);
|
|
|
|
|
|
}
|
|
|
|
|
|
// Если пул полный, соединение просто закрывается
|
|
|
|
|
|
}
|
|
|
|
|
|
|
|
|
|
|
|
/// Проверяет здоровье пула
|
|
|
|
|
|
pub async fn health_check(&self) -> bool {
|
|
|
|
|
|
match self.get_connection().await {
|
|
|
|
|
|
Ok(mut conn) => {
|
|
|
|
|
|
match tokio::time::timeout(Duration::from_secs(2), conn.ping::<String>()).await {
|
|
|
|
|
|
Ok(Ok(_)) => {
|
|
|
|
|
|
self.return_connection(conn).await;
|
|
|
|
|
|
true
|
|
|
|
|
|
}
|
|
|
|
|
|
_ => false,
|
|
|
|
|
|
}
|
|
|
|
|
|
}
|
|
|
|
|
|
Err(_) => false,
|
|
|
|
|
|
}
|
|
|
|
|
|
}
|
|
|
|
|
|
|
|
|
|
|
|
/// Получает статистику пула
|
|
|
|
|
|
pub async fn get_stats(&self) -> (usize, usize) {
|
|
|
|
|
|
let connections = self.connections.lock().await;
|
|
|
|
|
|
(connections.len(), self.max_connections)
|
|
|
|
|
|
}
|
|
|
|
|
|
}
|
2024-10-22 12:55:53 +03:00
|
|
|
|
|
2024-08-31 03:32:37 +03:00
|
|
|
|
#[derive(Clone)]
|
|
|
|
|
|
pub struct AppState {
|
2025-09-22 01:23:16 +03:00
|
|
|
|
pub redis_pool: Option<RedisConnectionPool>,
|
2024-10-22 09:38:30 +03:00
|
|
|
|
pub storj_client: S3Client,
|
2024-10-22 19:34:08 +03:00
|
|
|
|
pub aws_client: S3Client,
|
2025-08-02 00:18:09 +03:00
|
|
|
|
pub bucket: String,
|
2025-09-02 14:00:54 +03:00
|
|
|
|
pub request_timeout: Duration,
|
2024-08-31 03:32:37 +03:00
|
|
|
|
}
|
|
|
|
|
|
|
2024-10-22 09:38:30 +03:00
|
|
|
|
const PATH_MAPPING_KEY: &str = "filepath_mapping"; // Ключ для хранения маппинга путей
|
2025-09-01 22:58:03 +03:00
|
|
|
|
// Убираем TTL для квоты - она должна быть постоянной на пользователя
|
2024-08-31 03:32:37 +03:00
|
|
|
|
|
|
|
|
|
|
impl AppState {
|
|
|
|
|
|
/// Инициализация нового состояния приложения.
|
|
|
|
|
|
pub async fn new() -> Self {
|
2025-09-02 14:00:54 +03:00
|
|
|
|
let security_config = SecurityConfig::default();
|
2025-09-02 18:17:12 +03:00
|
|
|
|
Self::new_with_config(security_config).await
|
2025-09-02 14:00:54 +03:00
|
|
|
|
}
|
|
|
|
|
|
|
2025-09-22 01:23:16 +03:00
|
|
|
|
/// Получает соединение из Redis connection pool
|
|
|
|
|
|
pub async fn get_redis_connection(&self) -> Result<MultiplexedConnection, redis::RedisError> {
|
|
|
|
|
|
if let Some(ref pool) = self.redis_pool {
|
|
|
|
|
|
pool.get_connection().await
|
|
|
|
|
|
} else {
|
|
|
|
|
|
Err(redis::RedisError::from((
|
|
|
|
|
|
redis::ErrorKind::IoError,
|
|
|
|
|
|
"Redis pool not available",
|
|
|
|
|
|
)))
|
|
|
|
|
|
}
|
|
|
|
|
|
}
|
|
|
|
|
|
|
|
|
|
|
|
/// Возвращает соединение обратно в пул
|
|
|
|
|
|
pub async fn return_redis_connection(&self, conn: MultiplexedConnection) {
|
|
|
|
|
|
if let Some(ref pool) = self.redis_pool {
|
|
|
|
|
|
pool.return_connection(conn).await;
|
|
|
|
|
|
}
|
|
|
|
|
|
}
|
|
|
|
|
|
|
|
|
|
|
|
/// Проверяет здоровье Redis connection pool
|
|
|
|
|
|
pub async fn redis_health_check(&self) -> bool {
|
|
|
|
|
|
if let Some(ref pool) = self.redis_pool {
|
|
|
|
|
|
pool.health_check().await
|
|
|
|
|
|
} else {
|
|
|
|
|
|
false
|
|
|
|
|
|
}
|
|
|
|
|
|
}
|
|
|
|
|
|
|
|
|
|
|
|
/// Получает статистику Redis connection pool
|
|
|
|
|
|
pub async fn redis_pool_stats(&self) -> Option<(usize, usize)> {
|
|
|
|
|
|
if let Some(ref pool) = self.redis_pool {
|
|
|
|
|
|
Some(pool.get_stats().await)
|
|
|
|
|
|
} else {
|
|
|
|
|
|
None
|
|
|
|
|
|
}
|
|
|
|
|
|
}
|
|
|
|
|
|
|
2025-09-02 14:00:54 +03:00
|
|
|
|
/// Инициализация с кастомной конфигурацией безопасности.
|
2025-09-02 18:17:12 +03:00
|
|
|
|
pub async fn new_with_config(security_config: SecurityConfig) -> Self {
|
2025-09-02 18:37:51 +03:00
|
|
|
|
log::warn!("🚀 Starting AppState initialization...");
|
2025-09-03 10:21:17 +03:00
|
|
|
|
|
2025-09-02 14:00:54 +03:00
|
|
|
|
// Получаем конфигурацию для Redis с таймаутом
|
2025-09-02 18:37:51 +03:00
|
|
|
|
log::warn!("📋 Getting REDIS_URL from environment...");
|
2025-09-02 18:35:02 +03:00
|
|
|
|
let redis_url = match env::var("REDIS_URL") {
|
|
|
|
|
|
Ok(url) => {
|
2025-09-02 18:37:51 +03:00
|
|
|
|
log::warn!("✅ REDIS_URL found in environment");
|
2025-09-02 18:35:02 +03:00
|
|
|
|
url
|
|
|
|
|
|
}
|
|
|
|
|
|
Err(e) => {
|
|
|
|
|
|
log::error!("❌ REDIS_URL not found: {}", e);
|
|
|
|
|
|
panic!("REDIS_URL must be set: {}", e);
|
|
|
|
|
|
}
|
|
|
|
|
|
};
|
2025-09-03 10:21:17 +03:00
|
|
|
|
|
2025-09-02 18:31:46 +03:00
|
|
|
|
// Детальное логирование для отладки
|
2025-09-03 10:21:17 +03:00
|
|
|
|
log::warn!(
|
|
|
|
|
|
"🔗 Redis URL: {}",
|
|
|
|
|
|
redis_url.replace(redis_url.split('@').nth(0).unwrap_or(""), "***")
|
|
|
|
|
|
);
|
|
|
|
|
|
|
2025-09-02 18:31:46 +03:00
|
|
|
|
// Парсим URL для детального анализа
|
2025-09-02 18:37:51 +03:00
|
|
|
|
log::warn!("🔍 Parsing Redis URL...");
|
2025-09-02 18:45:11 +03:00
|
|
|
|
let final_redis_url = match url::Url::parse(&redis_url) {
|
2025-09-02 18:35:02 +03:00
|
|
|
|
Ok(parsed_url) => {
|
2025-09-02 18:37:51 +03:00
|
|
|
|
log::warn!("✅ Redis URL parsed successfully");
|
|
|
|
|
|
log::warn!(" Host: {}", parsed_url.host_str().unwrap_or("none"));
|
|
|
|
|
|
log::warn!(" Port: {}", parsed_url.port().unwrap_or(0));
|
2025-09-03 10:21:17 +03:00
|
|
|
|
|
2025-09-02 18:42:05 +03:00
|
|
|
|
let username = parsed_url.username();
|
|
|
|
|
|
let password = parsed_url.password();
|
2025-09-03 10:21:17 +03:00
|
|
|
|
|
2025-09-02 18:45:11 +03:00
|
|
|
|
log::warn!(" Username: '{}'", username);
|
2025-09-03 10:21:17 +03:00
|
|
|
|
log::warn!(
|
|
|
|
|
|
" Password: {}",
|
|
|
|
|
|
if password.is_some() { "***" } else { "none" }
|
|
|
|
|
|
);
|
|
|
|
|
|
|
|
|
|
|
|
// Если username пустой и есть пароль, оставляем как есть
|
|
|
|
|
|
// Redis может работать только с паролем без username
|
|
|
|
|
|
if username.is_empty() && password.is_some() {
|
|
|
|
|
|
log::warn!(" 🔧 Using password-only authentication (no username)");
|
|
|
|
|
|
}
|
|
|
|
|
|
redis_url
|
2025-09-02 18:35:02 +03:00
|
|
|
|
}
|
|
|
|
|
|
Err(e) => {
|
|
|
|
|
|
log::error!("❌ Failed to parse Redis URL: {}", e);
|
|
|
|
|
|
panic!("Invalid Redis URL: {}", e);
|
|
|
|
|
|
}
|
2025-09-02 18:45:11 +03:00
|
|
|
|
};
|
2025-09-03 10:21:17 +03:00
|
|
|
|
|
2025-09-02 18:45:11 +03:00
|
|
|
|
// Используем исправленный URL
|
|
|
|
|
|
Self::create_app_state_with_redis_url(security_config, final_redis_url).await
|
|
|
|
|
|
}
|
2025-09-02 18:42:05 +03:00
|
|
|
|
|
2025-09-02 18:45:11 +03:00
|
|
|
|
/// Создает AppState с указанным Redis URL.
|
2025-09-03 10:21:17 +03:00
|
|
|
|
async fn create_app_state_with_redis_url(
|
|
|
|
|
|
security_config: SecurityConfig,
|
|
|
|
|
|
redis_url: String,
|
|
|
|
|
|
) -> Self {
|
[0.6.1] - 2025-09-02
### 🚀 Изменено - Упрощение архитектуры
- **Генерация миниатюр**: Полностью удалена из Quoter, теперь управляется Vercel Edge API
- **Очистка legacy кода**: Удалены все функции генерации миниатюр и сложность
- **Документация**: Сокращена с 17 файлов до 7, следуя принципам KISS/DRY
- **Смена фокуса**: Quoter теперь сосредоточен на upload + storage, Vercel обрабатывает миниатюры
- **Логирование запросов**: Добавлена аналитика источников для оптимизации CORS whitelist
- **Реализация таймаутов**: Добавлены настраиваемые таймауты для S3, Redis и внешних операций
- **Упрощенная безопасность**: Удален сложный rate limiting, оставлена только необходимая защита upload
- **Vercel интеграция**: Добавлена поддержка Vercel Edge API с CORS и оптимизированными заголовками
- **Redis graceful fallback**: Приложение теперь работает без Redis с предупреждениями вместо паники
- **Умная логика ответов**: Автоматическое определение Vercel запросов и оптимизированные заголовки
- **Консолидация документации**: Объединены 4 Vercel документа в один comprehensive guide
### 📝 Обновлено
- Консолидирована документация в практическую структуру:
- Основной README.md с быстрым стартом
- docs/SETUP.md для конфигурации и развертывания
- Упрощенный features.md с фокусом на основную функциональность
- docs/vercel-frontend-migration.md - единый comprehensive guide для Vercel интеграции
- Добавлен акцент на Vercel по всему коду и документации
- Обновлены URL patterns в документации: quoter.discours.io → files.dscrs.site
### 🗑️ Удалено
- Избыточные файлы документации (api-reference, deployment, development, и т.д.)
- Дублирующийся контент в нескольких документах
- Излишне детальная документация для простого файлового прокси
- 4 отдельных Vercel документа: vercel-thumbnails.md, vercel-integration.md, hybrid-architecture.md, vercel-og-integration.md
💋 **Упрощение**: KISS принцип применен - убрали избыточность, оставили суть.
2025-09-02 14:39:54 +03:00
|
|
|
|
// Устанавливаем таймаут для Redis операций с graceful fallback
|
2025-09-03 10:21:17 +03:00
|
|
|
|
log::warn!(
|
|
|
|
|
|
"🔄 Attempting Redis connection with timeout: {}s",
|
|
|
|
|
|
security_config.request_timeout_seconds
|
|
|
|
|
|
);
|
|
|
|
|
|
|
2025-09-22 01:23:16 +03:00
|
|
|
|
// Создаем Redis connection pool
|
|
|
|
|
|
let redis_pool = match RedisConnectionPool::new(
|
|
|
|
|
|
redis_url.clone(),
|
|
|
|
|
|
20, // max_connections согласно руководству
|
2025-09-02 14:00:54 +03:00
|
|
|
|
Duration::from_secs(security_config.request_timeout_seconds),
|
|
|
|
|
|
)
|
|
|
|
|
|
.await
|
[0.6.1] - 2025-09-02
### 🚀 Изменено - Упрощение архитектуры
- **Генерация миниатюр**: Полностью удалена из Quoter, теперь управляется Vercel Edge API
- **Очистка legacy кода**: Удалены все функции генерации миниатюр и сложность
- **Документация**: Сокращена с 17 файлов до 7, следуя принципам KISS/DRY
- **Смена фокуса**: Quoter теперь сосредоточен на upload + storage, Vercel обрабатывает миниатюры
- **Логирование запросов**: Добавлена аналитика источников для оптимизации CORS whitelist
- **Реализация таймаутов**: Добавлены настраиваемые таймауты для S3, Redis и внешних операций
- **Упрощенная безопасность**: Удален сложный rate limiting, оставлена только необходимая защита upload
- **Vercel интеграция**: Добавлена поддержка Vercel Edge API с CORS и оптимизированными заголовками
- **Redis graceful fallback**: Приложение теперь работает без Redis с предупреждениями вместо паники
- **Умная логика ответов**: Автоматическое определение Vercel запросов и оптимизированные заголовки
- **Консолидация документации**: Объединены 4 Vercel документа в один comprehensive guide
### 📝 Обновлено
- Консолидирована документация в практическую структуру:
- Основной README.md с быстрым стартом
- docs/SETUP.md для конфигурации и развертывания
- Упрощенный features.md с фокусом на основную функциональность
- docs/vercel-frontend-migration.md - единый comprehensive guide для Vercel интеграции
- Добавлен акцент на Vercel по всему коду и документации
- Обновлены URL patterns в документации: quoter.discours.io → files.dscrs.site
### 🗑️ Удалено
- Избыточные файлы документации (api-reference, deployment, development, и т.д.)
- Дублирующийся контент в нескольких документах
- Излишне детальная документация для простого файлового прокси
- 4 отдельных Vercel документа: vercel-thumbnails.md, vercel-integration.md, hybrid-architecture.md, vercel-og-integration.md
💋 **Упрощение**: KISS принцип применен - убрали избыточность, оставили суть.
2025-09-02 14:39:54 +03:00
|
|
|
|
{
|
2025-09-22 01:23:16 +03:00
|
|
|
|
Ok(pool) => {
|
|
|
|
|
|
log::warn!("✅ Redis connection pool created successfully");
|
|
|
|
|
|
Some(pool)
|
[0.6.1] - 2025-09-02
### 🚀 Изменено - Упрощение архитектуры
- **Генерация миниатюр**: Полностью удалена из Quoter, теперь управляется Vercel Edge API
- **Очистка legacy кода**: Удалены все функции генерации миниатюр и сложность
- **Документация**: Сокращена с 17 файлов до 7, следуя принципам KISS/DRY
- **Смена фокуса**: Quoter теперь сосредоточен на upload + storage, Vercel обрабатывает миниатюры
- **Логирование запросов**: Добавлена аналитика источников для оптимизации CORS whitelist
- **Реализация таймаутов**: Добавлены настраиваемые таймауты для S3, Redis и внешних операций
- **Упрощенная безопасность**: Удален сложный rate limiting, оставлена только необходимая защита upload
- **Vercel интеграция**: Добавлена поддержка Vercel Edge API с CORS и оптимизированными заголовками
- **Redis graceful fallback**: Приложение теперь работает без Redis с предупреждениями вместо паники
- **Умная логика ответов**: Автоматическое определение Vercel запросов и оптимизированные заголовки
- **Консолидация документации**: Объединены 4 Vercel документа в один comprehensive guide
### 📝 Обновлено
- Консолидирована документация в практическую структуру:
- Основной README.md с быстрым стартом
- docs/SETUP.md для конфигурации и развертывания
- Упрощенный features.md с фокусом на основную функциональность
- docs/vercel-frontend-migration.md - единый comprehensive guide для Vercel интеграции
- Добавлен акцент на Vercel по всему коду и документации
- Обновлены URL patterns в документации: quoter.discours.io → files.dscrs.site
### 🗑️ Удалено
- Избыточные файлы документации (api-reference, deployment, development, и т.д.)
- Дублирующийся контент в нескольких документах
- Излишне детальная документация для простого файлового прокси
- 4 отдельных Vercel документа: vercel-thumbnails.md, vercel-integration.md, hybrid-architecture.md, vercel-og-integration.md
💋 **Упрощение**: KISS принцип применен - убрали избыточность, оставили суть.
2025-09-02 14:39:54 +03:00
|
|
|
|
}
|
2025-09-22 01:23:16 +03:00
|
|
|
|
Err(e) => {
|
|
|
|
|
|
log::warn!("⚠️ Redis connection pool creation failed: {}", e);
|
[0.6.1] - 2025-09-02
### 🚀 Изменено - Упрощение архитектуры
- **Генерация миниатюр**: Полностью удалена из Quoter, теперь управляется Vercel Edge API
- **Очистка legacy кода**: Удалены все функции генерации миниатюр и сложность
- **Документация**: Сокращена с 17 файлов до 7, следуя принципам KISS/DRY
- **Смена фокуса**: Quoter теперь сосредоточен на upload + storage, Vercel обрабатывает миниатюры
- **Логирование запросов**: Добавлена аналитика источников для оптимизации CORS whitelist
- **Реализация таймаутов**: Добавлены настраиваемые таймауты для S3, Redis и внешних операций
- **Упрощенная безопасность**: Удален сложный rate limiting, оставлена только необходимая защита upload
- **Vercel интеграция**: Добавлена поддержка Vercel Edge API с CORS и оптимизированными заголовками
- **Redis graceful fallback**: Приложение теперь работает без Redis с предупреждениями вместо паники
- **Умная логика ответов**: Автоматическое определение Vercel запросов и оптимизированные заголовки
- **Консолидация документации**: Объединены 4 Vercel документа в один comprehensive guide
### 📝 Обновлено
- Консолидирована документация в практическую структуру:
- Основной README.md с быстрым стартом
- docs/SETUP.md для конфигурации и развертывания
- Упрощенный features.md с фокусом на основную функциональность
- docs/vercel-frontend-migration.md - единый comprehensive guide для Vercel интеграции
- Добавлен акцент на Vercel по всему коду и документации
- Обновлены URL patterns в документации: quoter.discours.io → files.dscrs.site
### 🗑️ Удалено
- Избыточные файлы документации (api-reference, deployment, development, и т.д.)
- Дублирующийся контент в нескольких документах
- Излишне детальная документация для простого файлового прокси
- 4 отдельных Vercel документа: vercel-thumbnails.md, vercel-integration.md, hybrid-architecture.md, vercel-og-integration.md
💋 **Упрощение**: KISS принцип применен - убрали избыточность, оставили суть.
2025-09-02 14:39:54 +03:00
|
|
|
|
log::warn!("⚠️ Running in fallback mode without Redis (quotas disabled)");
|
|
|
|
|
|
None
|
|
|
|
|
|
}
|
|
|
|
|
|
};
|
2024-08-31 03:32:37 +03:00
|
|
|
|
|
2025-09-22 01:23:16 +03:00
|
|
|
|
// Одиночное соединение больше не нужно - используем только connection pool
|
|
|
|
|
|
|
2024-08-31 03:32:37 +03:00
|
|
|
|
// Получаем конфигурацию для S3 (Storj)
|
|
|
|
|
|
let s3_access_key = env::var("STORJ_ACCESS_KEY").expect("STORJ_ACCESS_KEY must be set");
|
|
|
|
|
|
let s3_secret_key = env::var("STORJ_SECRET_KEY").expect("STORJ_SECRET_KEY must be set");
|
2024-09-23 16:32:54 +03:00
|
|
|
|
let s3_endpoint = env::var("STORJ_END_POINT")
|
|
|
|
|
|
.unwrap_or_else(|_| "https://gateway.storjshare.io".to_string());
|
2024-10-22 19:34:08 +03:00
|
|
|
|
let bucket = env::var("STORJ_BUCKET_NAME").unwrap_or_else(|_| "discours-io".to_string());
|
2024-08-31 03:32:37 +03:00
|
|
|
|
|
|
|
|
|
|
// Получаем конфигурацию для AWS S3
|
2024-10-22 19:34:08 +03:00
|
|
|
|
let aws_access_key = env::var("AWS_ACCESS_KEY").expect("AWS_ACCESS_KEY must be set");
|
|
|
|
|
|
let aws_secret_key = env::var("AWS_SECRET_KEY").expect("AWS_SECRET_KEY must be set");
|
|
|
|
|
|
let aws_endpoint =
|
2025-08-02 00:18:09 +03:00
|
|
|
|
env::var("AWS_END_POINT").unwrap_or_else(|_| "https://s3.amazonaws.com".to_string());
|
2024-08-31 03:32:37 +03:00
|
|
|
|
|
2025-09-02 14:00:54 +03:00
|
|
|
|
// Конфигурируем клиент S3 для Storj с таймаутом
|
2024-08-31 03:32:37 +03:00
|
|
|
|
let storj_config = aws_config::defaults(BehaviorVersion::latest())
|
|
|
|
|
|
.region("eu-west-1")
|
|
|
|
|
|
.endpoint_url(s3_endpoint)
|
|
|
|
|
|
.credentials_provider(Credentials::new(
|
|
|
|
|
|
s3_access_key,
|
|
|
|
|
|
s3_secret_key,
|
|
|
|
|
|
None,
|
|
|
|
|
|
None,
|
2024-10-22 09:38:30 +03:00
|
|
|
|
"rust-storj-client",
|
2024-08-31 03:32:37 +03:00
|
|
|
|
))
|
2025-09-02 14:00:54 +03:00
|
|
|
|
.timeout_config(
|
|
|
|
|
|
aws_config::timeout::TimeoutConfig::builder()
|
|
|
|
|
|
.operation_timeout(Duration::from_secs(security_config.request_timeout_seconds))
|
|
|
|
|
|
.operation_attempt_timeout(Duration::from_secs(
|
|
|
|
|
|
security_config.request_timeout_seconds / 2,
|
|
|
|
|
|
))
|
|
|
|
|
|
.build(),
|
|
|
|
|
|
)
|
2024-08-31 03:32:37 +03:00
|
|
|
|
.load()
|
|
|
|
|
|
.await;
|
|
|
|
|
|
|
2024-10-22 09:38:30 +03:00
|
|
|
|
let storj_client = S3Client::new(&storj_config);
|
2024-08-31 03:32:37 +03:00
|
|
|
|
|
2025-09-02 14:00:54 +03:00
|
|
|
|
// Конфигурируем клиент S3 для AWS с таймаутом
|
2024-10-22 19:34:08 +03:00
|
|
|
|
let aws_config = aws_config::defaults(BehaviorVersion::latest())
|
2024-09-23 15:45:59 +03:00
|
|
|
|
.region("eu-west-1")
|
2024-08-31 03:32:37 +03:00
|
|
|
|
.endpoint_url(aws_endpoint)
|
|
|
|
|
|
.credentials_provider(Credentials::new(
|
|
|
|
|
|
aws_access_key,
|
|
|
|
|
|
aws_secret_key,
|
|
|
|
|
|
None,
|
|
|
|
|
|
None,
|
|
|
|
|
|
"rust-aws-client",
|
|
|
|
|
|
))
|
2025-09-02 14:00:54 +03:00
|
|
|
|
.timeout_config(
|
|
|
|
|
|
aws_config::timeout::TimeoutConfig::builder()
|
|
|
|
|
|
.operation_timeout(Duration::from_secs(security_config.request_timeout_seconds))
|
|
|
|
|
|
.operation_attempt_timeout(Duration::from_secs(
|
|
|
|
|
|
security_config.request_timeout_seconds / 2,
|
|
|
|
|
|
))
|
|
|
|
|
|
.build(),
|
|
|
|
|
|
)
|
2024-08-31 03:32:37 +03:00
|
|
|
|
.load()
|
|
|
|
|
|
.await;
|
2025-08-02 00:18:09 +03:00
|
|
|
|
|
2024-10-22 19:34:08 +03:00
|
|
|
|
let aws_client = S3Client::new(&aws_config);
|
2024-08-31 03:32:37 +03:00
|
|
|
|
|
|
|
|
|
|
let app_state = AppState {
|
2025-09-22 01:23:16 +03:00
|
|
|
|
redis_pool,
|
2024-10-22 09:38:30 +03:00
|
|
|
|
storj_client,
|
2024-10-22 19:34:08 +03:00
|
|
|
|
aws_client,
|
2025-08-02 00:18:09 +03:00
|
|
|
|
bucket,
|
2025-09-02 14:00:54 +03:00
|
|
|
|
request_timeout: Duration::from_secs(security_config.request_timeout_seconds),
|
2024-08-31 03:32:37 +03:00
|
|
|
|
};
|
|
|
|
|
|
|
2024-10-22 19:34:08 +03:00
|
|
|
|
// Кэшируем список файлов из AWS при старте приложения
|
|
|
|
|
|
app_state.cache_filelist().await;
|
2024-08-31 03:32:37 +03:00
|
|
|
|
|
2025-09-02 18:17:12 +03:00
|
|
|
|
app_state
|
2024-08-31 03:32:37 +03:00
|
|
|
|
}
|
|
|
|
|
|
|
|
|
|
|
|
/// Кэширует список файлов из Storj S3 в Redis.
|
2024-10-22 19:34:08 +03:00
|
|
|
|
pub async fn cache_filelist(&self) {
|
2024-10-23 16:38:34 +03:00
|
|
|
|
warn!("caching AWS filelist...");
|
[0.6.1] - 2025-09-02
### 🚀 Изменено - Упрощение архитектуры
- **Генерация миниатюр**: Полностью удалена из Quoter, теперь управляется Vercel Edge API
- **Очистка legacy кода**: Удалены все функции генерации миниатюр и сложность
- **Документация**: Сокращена с 17 файлов до 7, следуя принципам KISS/DRY
- **Смена фокуса**: Quoter теперь сосредоточен на upload + storage, Vercel обрабатывает миниатюры
- **Логирование запросов**: Добавлена аналитика источников для оптимизации CORS whitelist
- **Реализация таймаутов**: Добавлены настраиваемые таймауты для S3, Redis и внешних операций
- **Упрощенная безопасность**: Удален сложный rate limiting, оставлена только необходимая защита upload
- **Vercel интеграция**: Добавлена поддержка Vercel Edge API с CORS и оптимизированными заголовками
- **Redis graceful fallback**: Приложение теперь работает без Redis с предупреждениями вместо паники
- **Умная логика ответов**: Автоматическое определение Vercel запросов и оптимизированные заголовки
- **Консолидация документации**: Объединены 4 Vercel документа в один comprehensive guide
### 📝 Обновлено
- Консолидирована документация в практическую структуру:
- Основной README.md с быстрым стартом
- docs/SETUP.md для конфигурации и развертывания
- Упрощенный features.md с фокусом на основную функциональность
- docs/vercel-frontend-migration.md - единый comprehensive guide для Vercel интеграции
- Добавлен акцент на Vercel по всему коду и документации
- Обновлены URL patterns в документации: quoter.discours.io → files.dscrs.site
### 🗑️ Удалено
- Избыточные файлы документации (api-reference, deployment, development, и т.д.)
- Дублирующийся контент в нескольких документах
- Излишне детальная документация для простого файлового прокси
- 4 отдельных Vercel документа: vercel-thumbnails.md, vercel-integration.md, hybrid-architecture.md, vercel-og-integration.md
💋 **Упрощение**: KISS принцип применен - убрали избыточность, оставили суть.
2025-09-02 14:39:54 +03:00
|
|
|
|
|
2025-09-22 01:23:16 +03:00
|
|
|
|
// Получаем соединение из пула
|
|
|
|
|
|
let mut redis = match self.get_redis_connection().await {
|
|
|
|
|
|
Ok(conn) => conn,
|
|
|
|
|
|
Err(_) => {
|
|
|
|
|
|
warn!("⚠️ Redis pool not available, skipping filelist caching");
|
|
|
|
|
|
return;
|
|
|
|
|
|
}
|
[0.6.1] - 2025-09-02
### 🚀 Изменено - Упрощение архитектуры
- **Генерация миниатюр**: Полностью удалена из Quoter, теперь управляется Vercel Edge API
- **Очистка legacy кода**: Удалены все функции генерации миниатюр и сложность
- **Документация**: Сокращена с 17 файлов до 7, следуя принципам KISS/DRY
- **Смена фокуса**: Quoter теперь сосредоточен на upload + storage, Vercel обрабатывает миниатюры
- **Логирование запросов**: Добавлена аналитика источников для оптимизации CORS whitelist
- **Реализация таймаутов**: Добавлены настраиваемые таймауты для S3, Redis и внешних операций
- **Упрощенная безопасность**: Удален сложный rate limiting, оставлена только необходимая защита upload
- **Vercel интеграция**: Добавлена поддержка Vercel Edge API с CORS и оптимизированными заголовками
- **Redis graceful fallback**: Приложение теперь работает без Redis с предупреждениями вместо паники
- **Умная логика ответов**: Автоматическое определение Vercel запросов и оптимизированные заголовки
- **Консолидация документации**: Объединены 4 Vercel документа в один comprehensive guide
### 📝 Обновлено
- Консолидирована документация в практическую структуру:
- Основной README.md с быстрым стартом
- docs/SETUP.md для конфигурации и развертывания
- Упрощенный features.md с фокусом на основную функциональность
- docs/vercel-frontend-migration.md - единый comprehensive guide для Vercel интеграции
- Добавлен акцент на Vercel по всему коду и документации
- Обновлены URL patterns в документации: quoter.discours.io → files.dscrs.site
### 🗑️ Удалено
- Избыточные файлы документации (api-reference, deployment, development, и т.д.)
- Дублирующийся контент в нескольких документах
- Излишне детальная документация для простого файлового прокси
- 4 отдельных Vercel документа: vercel-thumbnails.md, vercel-integration.md, hybrid-architecture.md, vercel-og-integration.md
💋 **Упрощение**: KISS принцип применен - убрали избыточность, оставили суть.
2025-09-02 14:39:54 +03:00
|
|
|
|
};
|
2025-08-02 00:18:09 +03:00
|
|
|
|
|
2024-08-31 03:32:37 +03:00
|
|
|
|
// Запрашиваем список файлов из Storj S3
|
2024-10-22 19:34:08 +03:00
|
|
|
|
let filelist = get_s3_filelist(&self.aws_client, &self.bucket).await;
|
2024-10-22 12:24:47 +03:00
|
|
|
|
|
2024-10-22 13:15:37 +03:00
|
|
|
|
for [filename, filepath] in filelist.clone() {
|
2024-10-22 19:34:08 +03:00
|
|
|
|
// Сохраняем список файлов в Redis, используя HSET для каждого файла
|
[0.6.1] - 2025-09-02
### 🚀 Изменено - Упрощение архитектуры
- **Генерация миниатюр**: Полностью удалена из Quoter, теперь управляется Vercel Edge API
- **Очистка legacy кода**: Удалены все функции генерации миниатюр и сложность
- **Документация**: Сокращена с 17 файлов до 7, следуя принципам KISS/DRY
- **Смена фокуса**: Quoter теперь сосредоточен на upload + storage, Vercel обрабатывает миниатюры
- **Логирование запросов**: Добавлена аналитика источников для оптимизации CORS whitelist
- **Реализация таймаутов**: Добавлены настраиваемые таймауты для S3, Redis и внешних операций
- **Упрощенная безопасность**: Удален сложный rate limiting, оставлена только необходимая защита upload
- **Vercel интеграция**: Добавлена поддержка Vercel Edge API с CORS и оптимизированными заголовками
- **Redis graceful fallback**: Приложение теперь работает без Redis с предупреждениями вместо паники
- **Умная логика ответов**: Автоматическое определение Vercel запросов и оптимизированные заголовки
- **Консолидация документации**: Объединены 4 Vercel документа в один comprehensive guide
### 📝 Обновлено
- Консолидирована документация в практическую структуру:
- Основной README.md с быстрым стартом
- docs/SETUP.md для конфигурации и развертывания
- Упрощенный features.md с фокусом на основную функциональность
- docs/vercel-frontend-migration.md - единый comprehensive guide для Vercel интеграции
- Добавлен акцент на Vercel по всему коду и документации
- Обновлены URL patterns в документации: quoter.discours.io → files.dscrs.site
### 🗑️ Удалено
- Избыточные файлы документации (api-reference, deployment, development, и т.д.)
- Дублирующийся контент в нескольких документах
- Излишне детальная документация для простого файлового прокси
- 4 отдельных Vercel документа: vercel-thumbnails.md, vercel-integration.md, hybrid-architecture.md, vercel-og-integration.md
💋 **Упрощение**: KISS принцип применен - убрали избыточность, оставили суть.
2025-09-02 14:39:54 +03:00
|
|
|
|
if let Err(e) = tokio::time::timeout(
|
|
|
|
|
|
self.request_timeout,
|
|
|
|
|
|
redis.hset::<_, _, _, ()>(PATH_MAPPING_KEY, filename.clone(), filepath),
|
|
|
|
|
|
)
|
|
|
|
|
|
.await
|
|
|
|
|
|
{
|
|
|
|
|
|
warn!("⚠️ Redis operation failed: {}", e);
|
|
|
|
|
|
break;
|
|
|
|
|
|
}
|
2024-08-31 03:32:37 +03:00
|
|
|
|
}
|
2024-10-22 12:36:59 +03:00
|
|
|
|
|
2024-10-23 16:38:34 +03:00
|
|
|
|
warn!("cached {} files", filelist.len());
|
2025-09-22 01:23:16 +03:00
|
|
|
|
|
|
|
|
|
|
// Возвращаем соединение в пул
|
|
|
|
|
|
self.return_redis_connection(redis).await;
|
2024-08-31 03:32:37 +03:00
|
|
|
|
}
|
2025-08-02 00:18:09 +03:00
|
|
|
|
|
2025-09-02 14:00:54 +03:00
|
|
|
|
/// Получает путь из ключа (имени файла) в Redis с таймаутом.
|
2024-10-22 13:15:37 +03:00
|
|
|
|
pub async fn get_path(&self, filename: &str) -> Result<Option<String>, actix_web::Error> {
|
2025-09-22 01:23:16 +03:00
|
|
|
|
let mut redis = match self.get_redis_connection().await {
|
|
|
|
|
|
Ok(conn) => conn,
|
|
|
|
|
|
Err(_) => {
|
|
|
|
|
|
warn!("⚠️ Redis pool not available, returning None for path lookup");
|
|
|
|
|
|
return Ok(None);
|
|
|
|
|
|
}
|
[0.6.1] - 2025-09-02
### 🚀 Изменено - Упрощение архитектуры
- **Генерация миниатюр**: Полностью удалена из Quoter, теперь управляется Vercel Edge API
- **Очистка legacy кода**: Удалены все функции генерации миниатюр и сложность
- **Документация**: Сокращена с 17 файлов до 7, следуя принципам KISS/DRY
- **Смена фокуса**: Quoter теперь сосредоточен на upload + storage, Vercel обрабатывает миниатюры
- **Логирование запросов**: Добавлена аналитика источников для оптимизации CORS whitelist
- **Реализация таймаутов**: Добавлены настраиваемые таймауты для S3, Redis и внешних операций
- **Упрощенная безопасность**: Удален сложный rate limiting, оставлена только необходимая защита upload
- **Vercel интеграция**: Добавлена поддержка Vercel Edge API с CORS и оптимизированными заголовками
- **Redis graceful fallback**: Приложение теперь работает без Redis с предупреждениями вместо паники
- **Умная логика ответов**: Автоматическое определение Vercel запросов и оптимизированные заголовки
- **Консолидация документации**: Объединены 4 Vercel документа в один comprehensive guide
### 📝 Обновлено
- Консолидирована документация в практическую структуру:
- Основной README.md с быстрым стартом
- docs/SETUP.md для конфигурации и развертывания
- Упрощенный features.md с фокусом на основную функциональность
- docs/vercel-frontend-migration.md - единый comprehensive guide для Vercel интеграции
- Добавлен акцент на Vercel по всему коду и документации
- Обновлены URL patterns в документации: quoter.discours.io → files.dscrs.site
### 🗑️ Удалено
- Избыточные файлы документации (api-reference, deployment, development, и т.д.)
- Дублирующийся контент в нескольких документах
- Излишне детальная документация для простого файлового прокси
- 4 отдельных Vercel документа: vercel-thumbnails.md, vercel-integration.md, hybrid-architecture.md, vercel-og-integration.md
💋 **Упрощение**: KISS принцип применен - убрали избыточность, оставили суть.
2025-09-02 14:39:54 +03:00
|
|
|
|
};
|
2025-09-02 14:00:54 +03:00
|
|
|
|
|
2025-09-22 01:23:16 +03:00
|
|
|
|
let result: Option<String> =
|
2025-09-02 14:00:54 +03:00
|
|
|
|
tokio::time::timeout(self.request_timeout, redis.hget(PATH_MAPPING_KEY, filename))
|
|
|
|
|
|
.await
|
|
|
|
|
|
.map_err(|_| ErrorInternalServerError("Redis operation timeout"))?
|
|
|
|
|
|
.map_err(|_| ErrorInternalServerError("Failed to get path mapping from Redis"))?;
|
|
|
|
|
|
|
2025-09-22 01:23:16 +03:00
|
|
|
|
// Возвращаем соединение в пул
|
|
|
|
|
|
self.return_redis_connection(redis).await;
|
|
|
|
|
|
|
|
|
|
|
|
Ok(result)
|
2024-08-31 03:32:37 +03:00
|
|
|
|
}
|
|
|
|
|
|
|
2024-10-23 21:41:29 +03:00
|
|
|
|
pub async fn set_path(&self, filename: &str, filepath: &str) {
|
2025-09-22 01:23:16 +03:00
|
|
|
|
let mut redis = match self.get_redis_connection().await {
|
|
|
|
|
|
Ok(conn) => conn,
|
|
|
|
|
|
Err(_) => {
|
|
|
|
|
|
warn!(
|
|
|
|
|
|
"⚠️ Redis pool not available, skipping path caching for {}",
|
|
|
|
|
|
filename
|
|
|
|
|
|
);
|
|
|
|
|
|
return;
|
|
|
|
|
|
}
|
[0.6.1] - 2025-09-02
### 🚀 Изменено - Упрощение архитектуры
- **Генерация миниатюр**: Полностью удалена из Quoter, теперь управляется Vercel Edge API
- **Очистка legacy кода**: Удалены все функции генерации миниатюр и сложность
- **Документация**: Сокращена с 17 файлов до 7, следуя принципам KISS/DRY
- **Смена фокуса**: Quoter теперь сосредоточен на upload + storage, Vercel обрабатывает миниатюры
- **Логирование запросов**: Добавлена аналитика источников для оптимизации CORS whitelist
- **Реализация таймаутов**: Добавлены настраиваемые таймауты для S3, Redis и внешних операций
- **Упрощенная безопасность**: Удален сложный rate limiting, оставлена только необходимая защита upload
- **Vercel интеграция**: Добавлена поддержка Vercel Edge API с CORS и оптимизированными заголовками
- **Redis graceful fallback**: Приложение теперь работает без Redis с предупреждениями вместо паники
- **Умная логика ответов**: Автоматическое определение Vercel запросов и оптимизированные заголовки
- **Консолидация документации**: Объединены 4 Vercel документа в один comprehensive guide
### 📝 Обновлено
- Консолидирована документация в практическую структуру:
- Основной README.md с быстрым стартом
- docs/SETUP.md для конфигурации и развертывания
- Упрощенный features.md с фокусом на основную функциональность
- docs/vercel-frontend-migration.md - единый comprehensive guide для Vercel интеграции
- Добавлен акцент на Vercel по всему коду и документации
- Обновлены URL patterns в документации: quoter.discours.io → files.dscrs.site
### 🗑️ Удалено
- Избыточные файлы документации (api-reference, deployment, development, и т.д.)
- Дублирующийся контент в нескольких документах
- Излишне детальная документация для простого файлового прокси
- 4 отдельных Vercel документа: vercel-thumbnails.md, vercel-integration.md, hybrid-architecture.md, vercel-og-integration.md
💋 **Упрощение**: KISS принцип применен - убрали избыточность, оставили суть.
2025-09-02 14:39:54 +03:00
|
|
|
|
};
|
2025-09-02 14:00:54 +03:00
|
|
|
|
|
[0.6.1] - 2025-09-02
### 🚀 Изменено - Упрощение архитектуры
- **Генерация миниатюр**: Полностью удалена из Quoter, теперь управляется Vercel Edge API
- **Очистка legacy кода**: Удалены все функции генерации миниатюр и сложность
- **Документация**: Сокращена с 17 файлов до 7, следуя принципам KISS/DRY
- **Смена фокуса**: Quoter теперь сосредоточен на upload + storage, Vercel обрабатывает миниатюры
- **Логирование запросов**: Добавлена аналитика источников для оптимизации CORS whitelist
- **Реализация таймаутов**: Добавлены настраиваемые таймауты для S3, Redis и внешних операций
- **Упрощенная безопасность**: Удален сложный rate limiting, оставлена только необходимая защита upload
- **Vercel интеграция**: Добавлена поддержка Vercel Edge API с CORS и оптимизированными заголовками
- **Redis graceful fallback**: Приложение теперь работает без Redis с предупреждениями вместо паники
- **Умная логика ответов**: Автоматическое определение Vercel запросов и оптимизированные заголовки
- **Консолидация документации**: Объединены 4 Vercel документа в один comprehensive guide
### 📝 Обновлено
- Консолидирована документация в практическую структуру:
- Основной README.md с быстрым стартом
- docs/SETUP.md для конфигурации и развертывания
- Упрощенный features.md с фокусом на основную функциональность
- docs/vercel-frontend-migration.md - единый comprehensive guide для Vercel интеграции
- Добавлен акцент на Vercel по всему коду и документации
- Обновлены URL patterns в документации: quoter.discours.io → files.dscrs.site
### 🗑️ Удалено
- Избыточные файлы документации (api-reference, deployment, development, и т.д.)
- Дублирующийся контент в нескольких документах
- Излишне детальная документация для простого файлового прокси
- 4 отдельных Vercel документа: vercel-thumbnails.md, vercel-integration.md, hybrid-architecture.md, vercel-og-integration.md
💋 **Упрощение**: KISS принцип применен - убрали избыточность, оставили суть.
2025-09-02 14:39:54 +03:00
|
|
|
|
if let Err(e) = tokio::time::timeout(
|
2025-09-02 14:00:54 +03:00
|
|
|
|
self.request_timeout,
|
[0.6.1] - 2025-09-02
### 🚀 Изменено - Упрощение архитектуры
- **Генерация миниатюр**: Полностью удалена из Quoter, теперь управляется Vercel Edge API
- **Очистка legacy кода**: Удалены все функции генерации миниатюр и сложность
- **Документация**: Сокращена с 17 файлов до 7, следуя принципам KISS/DRY
- **Смена фокуса**: Quoter теперь сосредоточен на upload + storage, Vercel обрабатывает миниатюры
- **Логирование запросов**: Добавлена аналитика источников для оптимизации CORS whitelist
- **Реализация таймаутов**: Добавлены настраиваемые таймауты для S3, Redis и внешних операций
- **Упрощенная безопасность**: Удален сложный rate limiting, оставлена только необходимая защита upload
- **Vercel интеграция**: Добавлена поддержка Vercel Edge API с CORS и оптимизированными заголовками
- **Redis graceful fallback**: Приложение теперь работает без Redis с предупреждениями вместо паники
- **Умная логика ответов**: Автоматическое определение Vercel запросов и оптимизированные заголовки
- **Консолидация документации**: Объединены 4 Vercel документа в один comprehensive guide
### 📝 Обновлено
- Консолидирована документация в практическую структуру:
- Основной README.md с быстрым стартом
- docs/SETUP.md для конфигурации и развертывания
- Упрощенный features.md с фокусом на основную функциональность
- docs/vercel-frontend-migration.md - единый comprehensive guide для Vercel интеграции
- Добавлен акцент на Vercel по всему коду и документации
- Обновлены URL patterns в документации: quoter.discours.io → files.dscrs.site
### 🗑️ Удалено
- Избыточные файлы документации (api-reference, deployment, development, и т.д.)
- Дублирующийся контент в нескольких документах
- Излишне детальная документация для простого файлового прокси
- 4 отдельных Vercel документа: vercel-thumbnails.md, vercel-integration.md, hybrid-architecture.md, vercel-og-integration.md
💋 **Упрощение**: KISS принцип применен - убрали избыточность, оставили суть.
2025-09-02 14:39:54 +03:00
|
|
|
|
redis.hset::<_, _, _, ()>(PATH_MAPPING_KEY, filename, filepath),
|
2025-09-02 14:00:54 +03:00
|
|
|
|
)
|
|
|
|
|
|
.await
|
[0.6.1] - 2025-09-02
### 🚀 Изменено - Упрощение архитектуры
- **Генерация миниатюр**: Полностью удалена из Quoter, теперь управляется Vercel Edge API
- **Очистка legacy кода**: Удалены все функции генерации миниатюр и сложность
- **Документация**: Сокращена с 17 файлов до 7, следуя принципам KISS/DRY
- **Смена фокуса**: Quoter теперь сосредоточен на upload + storage, Vercel обрабатывает миниатюры
- **Логирование запросов**: Добавлена аналитика источников для оптимизации CORS whitelist
- **Реализация таймаутов**: Добавлены настраиваемые таймауты для S3, Redis и внешних операций
- **Упрощенная безопасность**: Удален сложный rate limiting, оставлена только необходимая защита upload
- **Vercel интеграция**: Добавлена поддержка Vercel Edge API с CORS и оптимизированными заголовками
- **Redis graceful fallback**: Приложение теперь работает без Redis с предупреждениями вместо паники
- **Умная логика ответов**: Автоматическое определение Vercel запросов и оптимизированные заголовки
- **Консолидация документации**: Объединены 4 Vercel документа в один comprehensive guide
### 📝 Обновлено
- Консолидирована документация в практическую структуру:
- Основной README.md с быстрым стартом
- docs/SETUP.md для конфигурации и развертывания
- Упрощенный features.md с фокусом на основную функциональность
- docs/vercel-frontend-migration.md - единый comprehensive guide для Vercel интеграции
- Добавлен акцент на Vercel по всему коду и документации
- Обновлены URL patterns в документации: quoter.discours.io → files.dscrs.site
### 🗑️ Удалено
- Избыточные файлы документации (api-reference, deployment, development, и т.д.)
- Дублирующийся контент в нескольких документах
- Излишне детальная документация для простого файлового прокси
- 4 отдельных Vercel документа: vercel-thumbnails.md, vercel-integration.md, hybrid-architecture.md, vercel-og-integration.md
💋 **Упрощение**: KISS принцип применен - убрали избыточность, оставили суть.
2025-09-02 14:39:54 +03:00
|
|
|
|
{
|
|
|
|
|
|
warn!("⚠️ Redis operation failed for {}: {}", filename, e);
|
|
|
|
|
|
}
|
2025-09-22 01:23:16 +03:00
|
|
|
|
|
|
|
|
|
|
// Возвращаем соединение в пул
|
|
|
|
|
|
self.return_redis_connection(redis).await;
|
2024-10-23 21:41:29 +03:00
|
|
|
|
}
|
|
|
|
|
|
|
2025-09-02 14:00:54 +03:00
|
|
|
|
/// создает или получает текущее значение квоты пользователя с таймаутом
|
2024-08-31 03:32:37 +03:00
|
|
|
|
pub async fn get_or_create_quota(&self, user_id: &str) -> Result<u64, actix_web::Error> {
|
2025-09-22 01:23:16 +03:00
|
|
|
|
let mut redis = match self.get_redis_connection().await {
|
|
|
|
|
|
Ok(conn) => conn,
|
|
|
|
|
|
Err(_) => {
|
|
|
|
|
|
warn!(
|
|
|
|
|
|
"⚠️ Redis pool not available, returning default quota for user {}",
|
|
|
|
|
|
user_id
|
|
|
|
|
|
);
|
|
|
|
|
|
return Ok(0); // Возвращаем 0 как fallback
|
|
|
|
|
|
}
|
[0.6.1] - 2025-09-02
### 🚀 Изменено - Упрощение архитектуры
- **Генерация миниатюр**: Полностью удалена из Quoter, теперь управляется Vercel Edge API
- **Очистка legacy кода**: Удалены все функции генерации миниатюр и сложность
- **Документация**: Сокращена с 17 файлов до 7, следуя принципам KISS/DRY
- **Смена фокуса**: Quoter теперь сосредоточен на upload + storage, Vercel обрабатывает миниатюры
- **Логирование запросов**: Добавлена аналитика источников для оптимизации CORS whitelist
- **Реализация таймаутов**: Добавлены настраиваемые таймауты для S3, Redis и внешних операций
- **Упрощенная безопасность**: Удален сложный rate limiting, оставлена только необходимая защита upload
- **Vercel интеграция**: Добавлена поддержка Vercel Edge API с CORS и оптимизированными заголовками
- **Redis graceful fallback**: Приложение теперь работает без Redis с предупреждениями вместо паники
- **Умная логика ответов**: Автоматическое определение Vercel запросов и оптимизированные заголовки
- **Консолидация документации**: Объединены 4 Vercel документа в один comprehensive guide
### 📝 Обновлено
- Консолидирована документация в практическую структуру:
- Основной README.md с быстрым стартом
- docs/SETUP.md для конфигурации и развертывания
- Упрощенный features.md с фокусом на основную функциональность
- docs/vercel-frontend-migration.md - единый comprehensive guide для Vercel интеграции
- Добавлен акцент на Vercel по всему коду и документации
- Обновлены URL patterns в документации: quoter.discours.io → files.dscrs.site
### 🗑️ Удалено
- Избыточные файлы документации (api-reference, deployment, development, и т.д.)
- Дублирующийся контент в нескольких документах
- Излишне детальная документация для простого файлового прокси
- 4 отдельных Vercel документа: vercel-thumbnails.md, vercel-integration.md, hybrid-architecture.md, vercel-og-integration.md
💋 **Упрощение**: KISS принцип применен - убрали избыточность, оставили суть.
2025-09-02 14:39:54 +03:00
|
|
|
|
};
|
2024-08-31 03:32:37 +03:00
|
|
|
|
let quota_key = format!("quota:{}", user_id);
|
|
|
|
|
|
|
2025-09-02 14:00:54 +03:00
|
|
|
|
// Попытка получить квоту из Redis с таймаутом
|
|
|
|
|
|
let quota: u64 = tokio::time::timeout(self.request_timeout, redis.get("a_key))
|
|
|
|
|
|
.await
|
|
|
|
|
|
.map_err(|_| ErrorInternalServerError("Redis timeout getting user quota"))?
|
|
|
|
|
|
.unwrap_or(0);
|
2024-08-31 03:32:37 +03:00
|
|
|
|
|
|
|
|
|
|
if quota == 0 {
|
2025-09-02 14:00:54 +03:00
|
|
|
|
// Если квота не найдена, устанавливаем её в 0 байт без TTL с таймаутом
|
|
|
|
|
|
tokio::time::timeout(
|
|
|
|
|
|
self.request_timeout,
|
|
|
|
|
|
redis.set::<&str, u64, ()>("a_key, 0),
|
|
|
|
|
|
)
|
|
|
|
|
|
.await
|
|
|
|
|
|
.map_err(|_| ErrorInternalServerError("Redis timeout setting user quota"))?
|
|
|
|
|
|
.map_err(|_| ErrorInternalServerError("Failed to set initial user quota in Redis"))?;
|
2024-08-31 03:32:37 +03:00
|
|
|
|
|
2025-09-22 01:23:16 +03:00
|
|
|
|
// Возвращаем соединение в пул
|
|
|
|
|
|
self.return_redis_connection(redis).await;
|
2024-08-31 03:32:37 +03:00
|
|
|
|
Ok(0) // Возвращаем 0 как начальную квоту
|
|
|
|
|
|
} else {
|
2025-09-22 01:23:16 +03:00
|
|
|
|
// Возвращаем соединение в пул
|
|
|
|
|
|
self.return_redis_connection(redis).await;
|
2024-08-31 03:32:37 +03:00
|
|
|
|
Ok(quota)
|
|
|
|
|
|
}
|
|
|
|
|
|
}
|
|
|
|
|
|
|
2025-09-02 14:00:54 +03:00
|
|
|
|
/// инкрементирует значение квоты пользователя в байтах с таймаутом
|
2024-08-31 03:32:37 +03:00
|
|
|
|
pub async fn increment_uploaded_bytes(
|
|
|
|
|
|
&self,
|
|
|
|
|
|
user_id: &str,
|
|
|
|
|
|
bytes: u64,
|
|
|
|
|
|
) -> Result<u64, actix_web::Error> {
|
2025-09-22 01:23:16 +03:00
|
|
|
|
let mut redis = match self.get_redis_connection().await {
|
|
|
|
|
|
Ok(conn) => conn,
|
|
|
|
|
|
Err(_) => {
|
|
|
|
|
|
warn!(
|
|
|
|
|
|
"⚠️ Redis pool not available, skipping quota increment for user {}",
|
|
|
|
|
|
user_id
|
|
|
|
|
|
);
|
|
|
|
|
|
return Ok(0); // Возвращаем 0 как fallback
|
|
|
|
|
|
}
|
[0.6.1] - 2025-09-02
### 🚀 Изменено - Упрощение архитектуры
- **Генерация миниатюр**: Полностью удалена из Quoter, теперь управляется Vercel Edge API
- **Очистка legacy кода**: Удалены все функции генерации миниатюр и сложность
- **Документация**: Сокращена с 17 файлов до 7, следуя принципам KISS/DRY
- **Смена фокуса**: Quoter теперь сосредоточен на upload + storage, Vercel обрабатывает миниатюры
- **Логирование запросов**: Добавлена аналитика источников для оптимизации CORS whitelist
- **Реализация таймаутов**: Добавлены настраиваемые таймауты для S3, Redis и внешних операций
- **Упрощенная безопасность**: Удален сложный rate limiting, оставлена только необходимая защита upload
- **Vercel интеграция**: Добавлена поддержка Vercel Edge API с CORS и оптимизированными заголовками
- **Redis graceful fallback**: Приложение теперь работает без Redis с предупреждениями вместо паники
- **Умная логика ответов**: Автоматическое определение Vercel запросов и оптимизированные заголовки
- **Консолидация документации**: Объединены 4 Vercel документа в один comprehensive guide
### 📝 Обновлено
- Консолидирована документация в практическую структуру:
- Основной README.md с быстрым стартом
- docs/SETUP.md для конфигурации и развертывания
- Упрощенный features.md с фокусом на основную функциональность
- docs/vercel-frontend-migration.md - единый comprehensive guide для Vercel интеграции
- Добавлен акцент на Vercel по всему коду и документации
- Обновлены URL patterns в документации: quoter.discours.io → files.dscrs.site
### 🗑️ Удалено
- Избыточные файлы документации (api-reference, deployment, development, и т.д.)
- Дублирующийся контент в нескольких документах
- Излишне детальная документация для простого файлового прокси
- 4 отдельных Vercel документа: vercel-thumbnails.md, vercel-integration.md, hybrid-architecture.md, vercel-og-integration.md
💋 **Упрощение**: KISS принцип применен - убрали избыточность, оставили суть.
2025-09-02 14:39:54 +03:00
|
|
|
|
};
|
2024-08-31 03:32:37 +03:00
|
|
|
|
let quota_key = format!("quota:{}", user_id);
|
2024-09-23 17:45:10 +03:00
|
|
|
|
|
2025-09-02 14:00:54 +03:00
|
|
|
|
// Проверяем, существует ли ключ в Redis с таймаутом
|
|
|
|
|
|
let exists: bool =
|
|
|
|
|
|
tokio::time::timeout(self.request_timeout, redis.exists::<_, bool>("a_key))
|
2024-08-31 03:32:37 +03:00
|
|
|
|
.await
|
|
|
|
|
|
.map_err(|_| {
|
2025-09-02 14:00:54 +03:00
|
|
|
|
ErrorInternalServerError("Redis timeout checking user quota existence")
|
|
|
|
|
|
})?
|
|
|
|
|
|
.map_err(|_| {
|
|
|
|
|
|
ErrorInternalServerError("Failed to check if user quota exists in Redis")
|
2024-08-31 03:32:37 +03:00
|
|
|
|
})?;
|
2025-09-02 14:00:54 +03:00
|
|
|
|
|
|
|
|
|
|
// Если ключ не существует, создаем его с начальным значением без TTL
|
|
|
|
|
|
if !exists {
|
|
|
|
|
|
tokio::time::timeout(
|
|
|
|
|
|
self.request_timeout,
|
|
|
|
|
|
redis.set::<_, u64, ()>("a_key, bytes),
|
|
|
|
|
|
)
|
|
|
|
|
|
.await
|
|
|
|
|
|
.map_err(|_| ErrorInternalServerError("Redis timeout setting initial user quota"))?
|
|
|
|
|
|
.map_err(|_| ErrorInternalServerError("Failed to set initial user quota in Redis"))?;
|
2025-09-22 01:23:16 +03:00
|
|
|
|
|
|
|
|
|
|
// Возвращаем соединение в пул
|
|
|
|
|
|
self.return_redis_connection(redis).await;
|
2024-08-31 03:32:37 +03:00
|
|
|
|
return Ok(bytes);
|
|
|
|
|
|
}
|
2024-09-23 17:45:10 +03:00
|
|
|
|
|
2024-08-31 03:32:37 +03:00
|
|
|
|
// Если ключ существует, инкрементируем его значение на заданное количество байт
|
2025-09-02 14:00:54 +03:00
|
|
|
|
let new_quota: u64 = tokio::time::timeout(
|
|
|
|
|
|
self.request_timeout,
|
|
|
|
|
|
redis.incr::<_, u64, u64>("a_key, bytes),
|
|
|
|
|
|
)
|
|
|
|
|
|
.await
|
|
|
|
|
|
.map_err(|_| ErrorInternalServerError("Redis timeout incrementing user quota"))?
|
|
|
|
|
|
.map_err(|_| ErrorInternalServerError("Failed to increment user quota in Redis"))?;
|
2024-09-23 17:45:10 +03:00
|
|
|
|
|
2025-09-22 01:23:16 +03:00
|
|
|
|
// Возвращаем соединение в пул
|
|
|
|
|
|
self.return_redis_connection(redis).await;
|
2024-08-31 03:32:37 +03:00
|
|
|
|
Ok(new_quota)
|
|
|
|
|
|
}
|
2025-09-03 10:21:17 +03:00
|
|
|
|
|
|
|
|
|
|
/// Очищает старые файлы из локального кэша.
|
|
|
|
|
|
pub fn cleanup_local_cache(&self) -> Result<(), Box<dyn std::error::Error>> {
|
|
|
|
|
|
// Очищаем кэш старше 7 дней
|
|
|
|
|
|
cleanup_cache("/tmp/thumbnails", 7)?;
|
|
|
|
|
|
Ok(())
|
|
|
|
|
|
}
|
|
|
|
|
|
|
|
|
|
|
|
/// Запускает периодическую очистку кэша.
|
|
|
|
|
|
pub fn start_cache_cleanup_task(&self) {
|
|
|
|
|
|
let state = self.clone();
|
|
|
|
|
|
tokio::spawn(async move {
|
|
|
|
|
|
let mut interval = tokio::time::interval(Duration::from_secs(24 * 60 * 60)); // раз в день
|
|
|
|
|
|
loop {
|
|
|
|
|
|
interval.tick().await;
|
|
|
|
|
|
if let Err(e) = state.cleanup_local_cache() {
|
|
|
|
|
|
warn!("Failed to cleanup local cache: {}", e);
|
|
|
|
|
|
} else {
|
|
|
|
|
|
warn!("Local cache cleanup completed successfully");
|
|
|
|
|
|
}
|
|
|
|
|
|
}
|
|
|
|
|
|
});
|
|
|
|
|
|
}
|
2024-08-31 03:32:37 +03:00
|
|
|
|
}
|